本月初，有消息称演员米娅·戈斯已向演员兼电影制作人希亚·拉博夫申请离婚。来自 miagoth_ 账号的 Instagram 帖子——上面有蓝色验证勾——很快就传开了。
该帖子中，Goth穿着一件印有“我的前男友是我最大的粉丝”的黑色粗体T恤。Beyoncé的歌曲《Single Ladies (Put a Ring on It)》也被添加到了Instagram帖子中。数十万人——包括一些娱乐行业人士——点赞了该图片。诸如OK!这样的娱乐媒体，甚至People也像报道真实事件一样对此进行了报道。很快，该帖子的截图就在其他社交媒体平台上广泛分享。
但Goth的代表称，这张图片是人工智能生成的，是由一个账户发布的，该账户被要求由Instagram移除。
“米娅·戈特不拥有任何社交媒体账号，也不在任何平台上使用社交媒体。我们已向 Instagram 提交多份投诉，要求删除那个持续发布米娅·戈特伪造的 AI 图片的认证粉丝账号，”戈特的代表克里斯蒂娜·特里皮奇奥在电子邮件中告诉 The Verge。“这个粉丝账号符合 Instagram 的‘蓝色验证’标准，这一事实从根本层面来看令人不安。更令人难以理解的是， Instagram 显然将传播伪造和篡改的图像视为优先事项，而忽视了公众人物形象的保护和完整性。”
miagoth_账号被标记为由粉丝运营，但那个蓝色勾选标记——多年来一直代表官方、可信的实体——很可能让行业内外的许多人感到困惑（该页面有超过一百万粉丝）。Meta 开始销售 几年前，蓝色检查标记作为新项目的一部分被引入，使得像粉丝页面这样的账户能够获得“验证”徽章，即使这些账户并非由内容中描绘的人运营。
Meta发言人亚历克斯·迪兹丹告诉 The Verge，miagoth_账号被移除是因为其模仿了公众人物。
与其禁止由真实人物生成的AI内容，Meta采取了对部分由生成式AI创建的内容进行标签标注的做法。例如，具有高度真实感的AI人像视频可能需要AI标签——但Meta的自身规则规定，静态图片不需要此类标签。包含真实人物（包括公众人物）的AI生成内容在Instagram上经常获得数百万次观看量，Meta高管们已表明，AI生成内容将成为用户在公司平台上互动的重要部分。
包括音乐家和演员在内的演艺人员多年来一直对他们的形象被用于生成人工智能内容表示担忧。2024年，斯嘉丽·约翰逊表示，即使她拒绝与OpenAI合作开展该项目，但OpenAI仍使用了她的声音来制作ChatGPT的语音。同年，泰勒·斯威夫特支持卡玛拉·哈里斯成为总统说，唐纳德·特朗普发布的由人工智能生成的她的照片让她意识到，她需要“打击有关她将投票给谁的错误信息”。
更新于10月13日：已添加 Meta 的回复。
更正，10月13日：标题中已明确说明该声明来自Goth的代表。
关注这个故事中的主题和作者，即可在您的个性化主页信息流中看到更多类似内容，并收到电子邮件更新。