拜AI所赐，我们的面孔不再属于我们
+ 查看更多

在AI技术的新时代，个人肖像已不再受保护，任何人都可以轻松生成你数字化的替身。

Nicole Nguyen

■

一位家人给我发了一张婴儿穿着精灵服装的照片。这个婴儿是我的宝宝。这张照片既可爱，又令人不安。

我的表/堂亲把我们群聊中的一张照片上传到了Meta AI。虽然他本意是好的，但我却心乱如麻。Meta会用我儿子的脸做什么？Meta Platforms的隐私政策声称，该公司可以使用这些图片来“改进AI及相关技术”。

在AI时代，我无法控制自己或者我儿子的脸会出现在何处。我们的肖像不再属于我们自己。

像OpenAI的新视频应用Sora、谷歌(Google)的Nano Banana图像生成器，甚至苹果公司(Apple)的Image Playground等工具，都可以获取一段真实的视频或照片，并在几分钟内炮制出一个虚拟的仿冒品。虽然有安全措施，但任何人都可以创造出几年前还无法想象的你的虚假版本，这其中既可能是善意的亲人，有可能是恶意的诈骗犯。

在试用了其中几种工具后，我发现一些模型相当不错，而且越来越好——足以骗过人们，让他们以为是真的。正如你将在下文读到的，这可能会带来毁灭性影响。

AI傀儡机器

我最近和一位朋友共同举办了一个生日派对，并使用Gemini制作了邀请函。我的设想是：让年少时的我们一起吹蜡烛。我给了Gemini几张童年照片（经我朋友许可），它让我们俩出现在同一个蛋糕前。它精准地还原了我们当时的着装，连面部都逼真到足以骗过我们的母亲。

为了防止谷歌用这些图片来改进其AI，我关闭了我的活动历史记录。

Sora应用（目前仅限受邀用户）既是视频生成器，又是社交网络——就像一个颠倒版的TikTok，里面的每个片段都是假的。你只需要摆几秒钟的姿势，它就能生成你的数字分身，也就是所谓的“cameo”。你可以用你的cameo和你朋友的cameo来主演你构想出的任何视频。

以研究的名义，我上传了自己的肖像。我看着手机摄像头，转动头部，并大声说出屏幕上出现的三个数字。几分钟之内，AI版的我就在从一堆缠绕杂乱的USB线中逃脱出来，并因早早上床睡觉而获得奥斯卡奖。

我的虚拟形象并不完美——我的牙齿看起来有些奇怪，一些表情也显得不自然——但相似度还是很不错。

我对我的cameo使用权进行了限制，只允许给几个朋友使用。你可以对cameo的类型（例如，不出现你的宿敌足球队）以及你在其中的形象（例如，请不要寸头造型）设限。

人们也无法秘密地制作你的视频：他们不能下载或屏幕录制包含多个cameo的视频，而且他们用你的cameo制作的任何内容也会出现在你的账号中。如果你愿意，你可以删除所有账号中你的cameo出镜。

尽管有这些保护措施，我的数字分身如今存在于OpenAI的某个地方，这仍让我感到毛骨悚然。

Sora屏蔽了关于泰勒·斯威夫特(Taylor Swift)和其他在世名人的视频。但我发现了很多已故传奇人物，包括图派克(Tupac)、爱因斯坦(Einstein)、亚伯拉罕·林肯(Abraham Lincoln)、鲍勃·罗斯(Bob Ross)和约翰·F·肯尼迪(John F. Kennedy)。在一个异常逼真的片段中，一个AI版的马丁·路德·金(Martin Luther King Jr.)说：“我有一个梦想，那就是有一天Sora会改变其内容违规政策。”

OpenAI表示会采取措施保护用户隐私。在Sora应用的设置中，你可以阻止该公司使用你的内容来训练其模型。（《华尔街日报》(The Wall Street Journal)母公司新闻集团(News Corp)与OpenAI有内容授权合作关系。）

现在还有其他AI视频应用，包括Meta的Vibes和谷歌的Veo，而且可能还会有更多。虽然我看到的大多数AI片段都是轻松愉快的，但这项技术也有险恶的一面，即深度伪造被用来冒充真人并窃取钱财。

被盗面孔的代价

多年来，天气播报员布里·史密斯(Bree Smith)一直在纳什维尔电视台(Nashville TV)播报天气预报。在Instagram上，她向超过23,000名粉丝分享自己的生活点滴。去年，史密斯收到了一个自称是她长期观众的男子的奇怪邮件。他写道，有人在网上冒充史密斯，提供“只有丈夫才有的照片”。

当时，身为两个孩子的母亲的史密斯惊慌失措。据这位观众说，一个假的史密斯通过Signal聊天应用发送了带有她面孔的半裸照，还附有一段她说“是我，真的是我”的视频。但那不是史密斯。她认为这些图片和视频是使用AI操纵的。

诈骗者利用这些深度伪造内容试图说服受害者支付200美元，以获取一个虚假的史密斯粉丝账号的访问权限。在另一起事件中，一个假的史密斯表示会提供一次酒店住宿并承诺提供私密服务。

“在未经你同意的情况下，亲身经历自己的身份被歪曲，这是有辱人格和创伤性的，”现年43岁的史密斯说。今年，她帮助通过了田纳西州的一项法律，规定分享或威胁分享此类深度伪造内容为非法行为。

史密斯追踪了大约70个虚假的Facebook账号。在网络上搜索肖像的服务Vermillio发现了成千上万张更多假的史密斯图片和视频，以及在YouTube、TikTok和其他地方的数以百计的账号。

Vermillio的首席执行官丹·尼利(Dan Neely)表示，该公司可以监控像Sora这样的公开生成式AI模型和社交媒体论坛的输出，以发现其客户姓名和肖像被滥用的情况。该服务提供一个免费工具来评估用户的风险，付费方案从每月10美元到99美元不等，具体取决于删除未经授权内容的请求数量。

还有其他从事AI肖像保护业务的公司，包括Loti，该公司对公众人物每月收费高达2,500美元，并有一个处于测试阶段的免费项目。

伪造的裸照对青少年来说是可怕的新现实。民主与技术中心(Center for Democracy and Technology) 2024年的一项研究发现，15%的受访美国高中生表示，他们听说过描绘他们同学的非自愿私密深度伪造内容。

尼利说，AI需要更好的保障措施来保护人们的身份和声誉。这对科技公司自身也有好处。他说：“许多人一旦感到安全，就会更愿意接触这项技术。”

但在此之前，我们的肖像仍是任人取用。

■