Personne n'est à l'abri des deepfakes IA de célébrités

Avec le recul, la publication sur Instagram aurait dû déclencher plus de signaux d'alarme. L'image prétendait montrer l'actrice Mia Goth, à peine quelques jours après avoir déposé une demande de divorce d'avec l'acteur et réalisateur Shia LaBeouf, posant dans un T-shirt arborant un message cinglant : MY EX IS MY BIGGEST FAN. Pour vraiment marteler le propos, la chanson « Single Ladies (Put a Ring on It) » de Beyoncé avait été ajoutée à la publication.

Cela aurait été contraire au caractère de la star de Pearl, qui n'a guère — voire pas du tout — de présence sur les réseaux sociaux. Mais le compte Instagram qui l'avait publiée, @miagoth_, comptait plus d'un million d'abonnés et était marqué d'un coche bleu « vérifié ». En quelques jours, l'image a accumulé près de 500,000 j'aime, notamment de la part de personnalités du milieu du divertissement, même si la page était signalée comme un compte de fan.

L'image, comme l'a rapporté The Verge, était générée par IA, publiée par un compte sur lequel, selon la représentante de Goth, ils s'étaient déjà plaints auprès d'Instagram pour avoir publié des « images contrefaites, générées par IA » de Goth. Meta permet aux utilisateurs d' acheter des coches bleus « vérifiés », même si le compte n'est pas géré par une personnalité connue ou n'est pas une page officielle.

« Le fait que ce compte de fan réponde aux critères d'Instagram pour être éligible à un “coche bleu” est déconcertant à un niveau fondamental », a déclaré à The Verge Christine Tripicchio, représentante de Goth, dans un courriel. « Au-delà de cela, il est incompréhensible qu'Instagram privilégie manifestement la diffusion d'images falsifiées et manipulées plutôt que la protection et l'intégrité de l'image d'une personnalité publique. »

En raison de l'annonce de son divorce, la publication a circulé dans les médias people, et cette couverture a à son tour propulsé la publication dans les résultats de recherche Google. Les recherches portant sur l'actrice et le T-shirt déclenchaient un aperçu généré par IA affirmant que Goth lançait « une attaque claire contre son ex, Shia LaBeouf, à la suite de leur récente demande de divorce », citant à son tour les blogs susmentionnés. Une section des résultats de recherche Google intitulée « Mia Goth turns heads on Instagram by wearing a sassy ‘My ex is my biggest fan’ t-shirt » était mise en avant, accompagnée de liens vers des publications sur les réseaux sociaux évoquant l'image. Instagram a finalement supprimé le compte pour usurpation de l'identité d'une personnalité publique.

Depuis que les outils grand public d'IA générative sont disponibles, il y a plusieurs années, certains des cas d'usage les plus mémorables — et les plus controversés — ont impliqué des personnes célèbres. Les personnes concernées n'ont historiquement pas bien réagi au fait d'être clonées numériquement et utilisées comme des jouets : une chanson imitant Drake générée par IA a été retirée de YouTube après des signalements pour violation du droit d'auteur. Scarlett Johansson a engagé une équipe juridique après qu'OpenAI a sorti une voix pour ChatGPT qui lui ressemblait sans son consentement. Ariana Grande aurait bloqué un compte publiant du contenu généré par IA la représentant l'an dernier. Taylor Swift a publiquement soutenu Kamala Harris à la présidence en 2024, déclarant qu'elle s'était sentie obligée de clarifier sa position après que Donald Trump a publié de fausses images laissant entendre qu'elle le soutenait.

Il y a eu un moment où tout le monde, y compris les riches et les célèbres, était aux prises avec les normes entourant une nouvelle technologie. Désormais, le flot de contenu IA en ligne ne fait que croître — et rien n'indique clairement que quiconque tente ou soit capable de l'arrêter.

À lire aussi

• Il est « incompréhensible » qu'Instagram ait laissé se propager une image générée par IA de Mia Goth, selon ses représentants
• Scarlett Johansson a demandé à OpenAI de ne pas utiliser sa voix — et elle n'apprécie pas qu'ils l'aient peut-être fait quand même

Le contenu généré par IA représentant des femmes publiques est souvent ouvertement sexuel. Un profil qui publie exclusivement des images générées par IA de Johansson — souvent avec des pieds nus bien en évidence — incluait des coordonnées afin que des entreprises puissent faire de la publicité sur le compte, ainsi que des liens vers des canaux Patreon et Telegram vendant des abonnements. Le contenu hors plateforme utilisait le nom de Johansson et son image (générée par IA) pour faire la promotion de contenu pour adultes. Un autre compte publie des images réalistes générées par IA d’acteurs et de musiciens comme Millie Bobby Brown, Zendaya et Grande, toujours partiellement dévêtus ou dans des positions sexualisées. Certains comptes ont leur propre niche, comme «Stranger Things : des acteurs qui se marient entre eux.”

Après The Verge avoir interrogé Meta au sujet de huit comptes publiant du contenu de deepfakes de célébrités, le porte-parole Alex Dziedzan a déclaré que l’entreprise avait supprimé certains des comptes. Deux d’entre eux — celui sur Goth et celui sur Johansson — semblent avoir été retirés.

« Nous n’autorisons pas les comptes à utiliser l’image de quelqu’un pour se faire passer pour cette personne, que le contenu soit authentique ou généré par IA », a déclaré Dziedzan dans un courriel.

Taylor Swift tient un verre, rape sur « Burning Bridges » de Drake, jurons inclus. « I’m off a [Quaalude]/it make my body tingle », chante-t-elle, portant la robe du moment fatidique des VMAs de 2009. La vidéo est en IA, évidemment. Elle compte 1.8 million de vues sur Instagram.

« Je ne pense pas que son équipe de com va apprécier qu’elle dise le mot en N », a commenté quelqu’un.

Instagram est rempli de vidéos comme celle-ci, suivant souvent inexplicablement des formats très spécifiques. Un clip de Shrek en IA faisant la même chose que Swift en IA compte 3.1 millions de vues. Voici Steve Jobs, arpentant la scène au son d’une autre chanson de Drake avec une bouteille de champagne à la main (371,000 vues). Il y a aussi une version identique avec Lionel Messi (2.1 millions de vues) publiée par un autre compte. Voici les pilotes de Formule 1 Lewis Hamilton et Max Verstappen qui font du playback sur « APT » de Bruno Mars et Rosé (2.9 millions de vues). Un autre clip montre le mariage de Swift en IA avec Travis Kelce en IA au Madison Square Garden en IA.

« ai he wore white tuxedo », a utilement vérifié en fait un fan.

En l’absence de lois nationales sur le droit à l’image, le contenu généré par IA mettant en scène de vraies personnes est contesté au niveau des plateformes. (Le Take It Down Act des États-Unis, qui a été signé et promulgué en 2025, criminalise spécifiquement la distribution d’images intimes sans consentement, y compris le contenu généré par IA, et oblige les plateformes à le retirer dans les 48 heures.)

YouTube dispose d’une détection de l’image, peut-être le système de surveillance et de retrait de deepfakes le plus robuste. Dans le cadre de ce programme, YouTube analysera sa plateforme à la recherche de correspondances visuelles pour une personne — et, récemment, de voix similaires — et leur permettra de demander le retrait du contenu. Toutes les demandes de retrait ne sont pas acceptées ; l’entreprise dit il prend en compte l'intérêt public, la valeur d'actualité et le consentement lors de l'évaluation des retraits. Le programme a d'abord été ouvert aux personnalités publiques comme les célébrités, les créateurs de contenu, les politiciens et les journalistes, mais il couvre désormais chaque adulte disposant d'un compte YouTube. Par le passé, l'entreprise a déclaré que le nombre de demandes de retrait qu'elle reçoit est relativement faible. Les créateurs veulent savoir ce qui a été publié les concernant sur YouTube, mais cela s'avère souvent « relativement bénin ou bénéfique pour l'ensemble de leur activité », a déclaré Amjad Hanif, vice-président des produits destinés aux créateurs, lors d'un point de presse en mars.

Le porte-parole de YouTube, Jack Malon, a noté dans un courriel à The Verge que la détection d'image de l'entreprise avait été développée en partenariat avec l'industrie du divertissement. Malon a déclaré qu'au premier semestre 2026, YouTube avait supprimé plus de 95 pour cent des vidéos signalées par le biais du programme pour retrait.

Les images fixes sont exemptées de l'exigence d'étiquetage par IA de Meta

Le contenu généré par l'IA sur les plateformes de Meta porte souvent des étiquettes l'identifiant comme tel. Certains contenus, comme les vidéos réalistes de personnes ou les enregistrements audio de voix générées par IA, doivent obligatoirement porter une étiquette IA. Les images fixes, en revanche, sont exemptées de l'exigence d'étiquetage — ce qui signifie que la fausse image de Mia Goth n'aurait pas nécessité de divulgation selon les règles de Meta. La société a également introduit des étiquettes « profil généré par IA » qui s'appliquent à un compte entier lorsque l'avatar représenté n'existe pas dans le monde réel, après qu'un afflux de types influenceurs IA a inondé la plateforme.

Mais il existe toute une industrie parallèle de comptes qui produisent en masse des images générées par IA de personnes réelles, que l'algorithme semble apprécier. Certains contenus ne sont pas manifestement malveillants, juste un peu étranges : il existe par exemple un genre sur Facebook de vidéos de premières de films générées par IA où la distribution originale (en costume) marche sur le tapis rouge à côté d'acteurs d'une version au casting recomposé. Un profil propose des cours en ligne à 29 dollars par mois sur la manière de gagner de l'argent grâce au contenu généré par IA.

Le contenu de célébrités généré par IA a aussi la capacité de véritablement tromper les gens en leur faisant croire que c'est réel, comme dans le cas de l'image (et du compte) représentant Goth. La publication spécifique devenue virale suggérait que l'actrice se moquait de LaBeouf, qui a été accusé d'abus par une autre ex-compagne et avait été filmé en 2015 en train de dire qu'il « aurait tué [Goth] » s'il avait continué à se disputer avec elle. La fausse image était accrocheuse, douteuse et opportune — en d'autres termes, parfaite pour la viralité sur les réseaux sociaux mais un handicap potentiel pour les parties impliquées. L'incident illustre les défaillances des dispositifs de confiance et de sécurité censés protéger contre ce genre de confusion.

Sur les réseaux sociaux, le contenu généré par IA se mêle librement aux reposts standard d'images réelles. Et même lorsqu'une page est supprimée, d'autres continuent de diffuser du contenu : un autre compte Instagram — toujours actif — comptant plus de 300,000 abonnés publie un flux régulier de photos et de vidéos de Johansson, qui semblent être un mélange d'images authentiques et de contenu généré par IA. L'une de ses publications les plus populaires est ce qui semble être une image de Johansson générée par IA avec près d'un demi-million de mentions J'aime. Il n'y a aucune divulgation IA, conformément aux règles de Meta. La fausse Johansson est allongée sur un canapé, les pieds nus bien en évidence. Ce n'est évidemment pas elle — mais ses fans dans les commentaires ne le savent pas ou s'en moquent.