没有任何人能免于名人AI深度伪造的危害

事后看来，那条Instagram帖子本应引起更多警觉。这张图片 据称显示女演员米娅·高特的，就在她向演员兼电影制作人Shia LaBeouf提出离婚申请几天后，她穿着一件印有尖锐信息的T恤拍照： 我的前任是我最大的粉丝。为了真正强调这一点,帖子中还加入了 Beyoncé 的歌曲《Single Ladies (Put a Ring on It)》。

对于这位……的主角来说，这本来是不符合其性格的。 珍珠，她基本没有社交媒体账号，或者说几乎没有。但发布这张图片的 Instagram 账号 @miagoth_ 拥有超过一百万粉丝，并带有蓝色的“已验证”对勾标记。尽管该页面被标注为粉丝账号，短短几天内，这张图片就获得了近 500,000 个赞，其中包括来自娱乐行业同行的点赞。

该图像，如 The Verge 报道，是AI生成的，由一个账号发布，Goth的代表称此前曾就此事向Instagram投诉过，因为该账号发布了Goth的“伪造AI图像”。Meta允许用户 购买蓝色“认证”对勾标记即使该账号并非由知名人士运营，也不是官方页面。

“这个粉丝账号居然符合Instagram获得‘蓝V认证’的标准，这在根本上令人不安，”Goth的代表Christine Tripicchio告诉 The Verge 在电子邮件中写道。“除此之外，Instagram显然将传播伪造和篡改的图像置于对公众人物肖像的保护和完整性之上，这是令人无法理解的。”

由于她离婚的消息，这篇帖子在名人八卦媒体间流传开来，而这些报道又反过来将帖子推送到Google搜索中。搜索这位女演员和这件衬衫时，会触发一条AI生成的概述，称Goth是在“最近提交离婚申请后对她前夫Shia LaBeouf的明显讽刺”，并引用了上述博客。Google搜索结果中一个标注为“Mia Goth身穿一件俏皮的‘我前夫是我最大的粉丝’T恤在Instagram上引人注目”的板块被醒目地展示，同时还附有讨论这张图片的社交媒体帖子链接。Instagram最终以冒充公众人物为由删除了该账号。

自从面向消费者的生成式AI工具在几年前问世以来，一些更令人印象深刻——也更具争议性的——用例都涉及名人。被数字化克隆并当作玩物的当事人历来对这种做法反应不佳： AI 生成的模仿 Drake 的歌曲 因版权投诉而从YouTube上被清除。斯嘉丽·约翰逊 聘请了一支法律团队 在OpenAI未经她同意发布了听起来像她声音的ChatGPT语音之后。据说Ariana Grande 封锁了一个账户 发布她去年的AI生成内容。Taylor Swift公开支持Kamala Harris竞选2024年总统，她表示 她被迫澄清自己的立场 在唐纳德·特朗普之后 发布暗示她支持他的虚假图片.

曾有一段时间，每个人，甚至富人和名人，都在努力适应一项新技术相关的行为规范。如今，网络上AI内容的低谷期还在不断加剧——而且不清楚是否有人在尝试或能够阻止它。

相关内容

• Instagram 放任一张 Mia Goth 的 AI 图像传播是“不可理解的”，她的代表如是说
• Scarlett Johansson 曾告诉 OpenAI 不要使用她的声音——而对 OpenAI 可能最终还是用了，她感到不满

描绘女性公众人物的AI内容往往带有明显的性色彩。一个专门发布约翰逊AI生成图像的账号——通常 prominently 展示光脚——附有联系信息以便公司在此账号上投放广告，还有指向出售订阅服务的 Patreon 和 Telegram 频道的链接。平台外的内容使用约翰逊的名字和（AI）图像来宣传成人内容。另一个账号发布演员和音乐人（如米莉·博比·布朗、赞达亚和爱莉安娜·格兰德）的逼真AI生成图像，总是半裸或处于性感化姿势。一些账号有自己的细分主题，比如“Stranger Things 演员们彼此结婚.”

在 The Verge 就发布名人深度伪造内容的八个账号询问 Meta 后，发言人 Alex Dziedzan 表示公司已删除了其中一些账号. 其中两个——哥特风格账号和约翰逊账号——似乎已被下架。

“我们不允许账号使用他人的肖像来冒充该个人，无论内容是真实的还是AI生成的，”Dziedzan 在一封电子邮件中说。

泰勒·斯威夫特手持一杯饮料，跟着德雷克的“Burning Bridges”一起说唱，包括脏话。“I’m off a [Quaalude]/it make my body tingle,”她唱着，身穿 2009年VMA颁奖礼那个命运时刻的礼服。这视频显然是AI。它在 Instagram 上有1.8百万次观看。

“我觉得她的公关团队不会喜欢她说N字，”有人评论道。

Instagram 上充满了这样的视频，往往莫名其妙地遵循非常特定的格式。AI史莱克做与AI斯威夫特同样事情的片段有3.1百万次观看。 这是史蒂夫·乔布斯，手持一瓶香槟随着另一首德雷克的歌曲昂首阔步（371,000次观看）。还有 一个完全相同的莱昂内尔·梅西版本 （2.1百万次观看），由另一个账号发布。 这里 ……是 Formula 1 车手刘易斯·汉密尔顿和马克斯·维斯塔潘对口型演唱布鲁诺·马尔斯和 Rosé 的“APT”的片段（2.9百万次观看）。另一个片段 展示 了AI斯威夫特与AI特拉维斯·凯尔西在AI麦迪逊广场花园的婚礼。

“ai 他穿着白色燕尾服，”一位粉丝热心地核实道。

由于 缺乏全国性肖像权法律，涉及真人的AI生成内容正在平台层面进行诉讼。（美国的《Take It Down法案》 于2025年签署成为法律 （该法律于2025年出台，专门将传播未经同意的私密影像（包括AI生成内容）定为犯罪，并要求平台在48小时内将其移除。）

YouTube 拥有 肖像检测系统，也许是最健全的深度伪造监测和删除系统。在该计划下，YouTube 将扫描其平台以寻找某人面容的视觉匹配—— 以及最近以来，声音相似者 ——并允许他们请求删除相关内容。并非每个删除请求都会被接受；该公司 表示 在评估删除请求时，它会考虑公共利益、新闻价值以及当事人的同意。该计划最初仅向名人、内容创作者、政界人士和记者等公众人物开放，但现在涵盖了 每一个拥有 YouTube 账户的成年人。过去，该公司曾表示其收到的下架请求数量相对较少。创作者希望了解YouTube上发布了哪些与他们相关的内容，但这往往最终证明“相当无害，或对他们整体业务有所助益”，创作者产品副总裁Amjad Hanif表示。 在3月的一场新闻发布会上表示.

YouTube发言人Jack Malon在发给 The Verge 该公司的肖像检测系统曾 合作开发 与娱乐行业有关。Malon表示，在2026年上半年，YouTube删除了超过95%通过该计划举报要求下架的视频。

静态图片可免于Meta的AI标注要求

Meta 平台上的 AI 生成内容通常带有标明其属性的标签。某些内容，例如逼真的人物视频或 AI 生成的语音音频，是 必需的 需要带有AI标签。不过,静态图片则免于标注要求——这意味着Mia Goth的假图在Meta的规则下本不需要任何披露。该公司还推出了“AI生成个人资料”标签, 适用于整个账号, 用于处理那些头像人物在现实中并不存在的账号,此前大量AI网红类型账号涌入平台。

但存在一批专门批量发布真人AI生成图像的账号,算法似乎很青睐这类内容。有些内容并不明显恶意,只是有点奇怪:例如,Facebook上有一种类型的 AI生成电影首映视频, 片中原班演员(穿着戏服)与重拍版演员一起走红毯。有一个账号在宣传每月29美元的关于如何通过AI内容赚钱的在线课程。

AI生成的名人内容也确实有能力让人误以为是真的,比如描绘Goth的那张图片(和那个账号)。那条疯传的具体帖子暗示这位女演员在嘲讽LaBeouf,后者曾被另一位前伴侣 指控虐待, 并且2015年曾 拍摄于2015年 说他如果继续和她争吵“就会杀了[Goth]”。这张假图吸人眼球、阴暗且时机恰当——换句话说,非常适合在社交媒体上病毒式传播,但对相关各方来说却是潜在的麻烦。这一事件凸显了本应防止此类混淆的信任与安全措施的失灵。

在社交媒体上,AI内容与真实图片的常规转发自由混杂在一起。即使某个页面被删除,还有其他页面继续推送内容:另一个Instagram账号——目前仍然在线——拥有超过300,000名粉丝,持续发布Johansson的图片和视频,看起来是真实图片和AI生成内容的混合体。其最受欢迎的帖子之一是一张貌似Johansson的AI图片,获得了将近500,000个赞。按照Meta的规则,该帖没有AI披露声明。这张深度伪造的Johansson躺在沙发上,光脚显眼地展示着。那显然不是她——但评论区的粉丝们要么不知道,要么不在乎。