Le acteur Wu Yue a déclaré hier que le compte vidéo WeChat “Hua Jie Meifu Diary” a fabriqué un vidéo de vente fictive en utilisant l’IA. Les enregistrements qu’elle a partagés montrent qu’un vidéo de l’IA mettant en scène “Wu Yue” a été publié : au début, “Wu Yue” vend des produits, puis les images des événements publics de la femme sont assemblées, et dans le ton de “Wu Yue”, on dit : “Ce produit n’est pas eux qui m’ont choisi, c’est moi qui les ai choisis… L’effet est vraiment très direct”. De plus, à la fin du vidéo, il y a une scène de vente suspectée d’appartenir à Deng Yaping, ce qui implique plusieurs personnes.
Selon les informations confirmées par le team WeChat par le澎湃新闻, l’account est actuellement banni permanent, et tout contenu y associé a été supprimé et invisible.
Atteindre la ligne rouge de la spéciale réforme “Qinglang”
Cet événement tombe directement sur le canon de la régulation. Le 30 septembre, le Bureau central de cybersécurité et de réseaux informatiques a publié une notification indiquant que, dans tout le pays, une action spéciale d’une durée de 2 mois intitulée « Clair et propre – Réduction des comportements illégaux liés aux personnages fictifs dans les vidéos courtes » sera mise en œuvre. L’objectif principal est de lutter contre les activités visant à imiter des personnes à l’aide de l’IA, y compris la production de vidéos et d’audios faux par l’IA, ainsi que les activités illégales telles que les représentations fictives auprès de personnalités publiques ou les campagnes marketing.
L’obstacle pour que l’IA fasse une transformation de visage et crée des sons est si bas qu’il est facile de le réaliser, et les personnalités publiques deviennent les cibles les plus susceptibles d’être “empruntées”. La mesure de suspension rapide des comptes sur le compte vidéo WeChat, qui entraîne la fermeture complète des comptes, est à la fois une action immédiate de la plateforme pour arrêter les contenus litigieux, et répond également à une tolérance zéro face aux fraudes liées à l’imitation. Pour les utilisateurs ordinaires, rester vigilant lorsqu’on voit des “personnalités publiques vendre directement”, peut être plus efficace que se battre après coup – après tout, un visage faux généré en une seule touche devient de plus en plus difficile à distinguer à l’œil nu.