俳優のウー・ユエは昨日、微信ビデオ番号「花姐美肤日記」がAIを利用して彼女の偽の商品紹介動画を作ったと主張した。彼女が公開した録画映像によると、そのアカウントでは「ウー・ユエ」が出演するAI動画が投稿されており、冒頭で「ウー・ユエ」が商品を紹介し、その後彼女の公開イベントの映像を組み合わせ、「ウー・ユエ」の口調で「この製品は彼らが私を呼んだのではなく、私が彼らを呼んだのです……効果は本当に直感的です」と述べている。さらに奇妙なことに、動画の終盤には邓亚萍と思われる人物の商品紹介シーンが現れ、一人の偽装が多くの人を巻き込んでいる。
澎湃新聞が微信チームに確認したところ、現在そのアカウントは永久に閉鎖され、関連内容は削除されて見えなくなっています。
「清朗」特別整備の红线に触れる
この事件は監視の銃口に当たった。9月30日、中央ネット情報局は通知を発行し、2ヶ月間にわたる「清朗・短い動画での虚偽の人物設定の乱れの整備」特別行動を全国で実施した。AIを利用して人物を模倣する行為を重点的に整備することになり、AIで虚偽の音声や動画を合成し、公衆人物を装って虚偽の推薦やマーケティングなどの侵害行為を行うことを含む。
AIによる顔の合成は非常に簡単で、有名人が「顔を借りる」対象になりやすくなった。この度の微信ビデオ番号での迅速なアカウント停止措置は、プラットフォームによる侵害コンテンツへの即時対応であり、模倣行為に対する厳格な対処を意味している。一般ユーザーにとって、「スターが直接商品を紹介する」内容を見たときに注意を払うことは、後で権利を主張するよりも有効かもしれない——一括で生成された偽顔は、肉眼ではますます識別が難しくなるからだ。