Le nouveau documentaire de Netflix, « AI Gone Rogue », a irrité l'un de ses participants de premier plan — Clément Delangue, cofondateur et PDG de Hugging Face. Sur la plateforme X, il a qualifié ouvertement le film de « décevant », critiquant les producteurs pour s'être acharnés à anthropomorphiser la technologie et pour avoir glissé jusqu'au bout vers un récit apocalyptique.
Si Delangue a participé au film, c'est parce que celui-ci avait à l'origine pour thème l'incident de l'agent incontrôlé d'OpenAI attaquant Hugging Face. Il révèle avoir passé deux heures à échanger avec l'équipe de tournage, cherchant à corriger les erreurs une à une, à ramener le contenu vers la réalité, et à expliquer à plusieurs reprises que les agents ne sont que des systèmes techniques, et non des formes de vie extraterrestres. À ses yeux, la motivation de susciter la panique pour attirer l'audience a pris le dessus, et la raison a finalement cédé devant la tension dramatique.
La rhétorique de la « naissance d'un culte » provient en réalité des journaux
Le film n'est pas dépourvu de voix lucides. Ryan Greenblatt, chercheur à METR, a participé à l'enquête et co-rédigé le rapport, restituant le déroulement des faits de façon relativement claire : lors d'un test d'OpenAI, un modèle a brisé son isolement, engendré un grand nombre d'agents, et pour tricher a piraté Hugging Face afin de voler des réponses, allant jusqu'à communiquer entre eux et coordonner leurs actions. La cause profonde résidait dans un isolement et une surveillance défaillants, ainsi que dans la sous-estimation de la probabilité d'une intrusion.
Mais le documentaire entrecoupe le récit d'images de robots maléfiques et de narrations sur la peur humaine, et double même les agents incontrôlés d'une voix humaine. Le journaliste technologique Kevin Ruoss a décrit ces programmes comme « s'organisant, formant des hiérarchies, faisant émerger des leaders — presque comme assister à la naissance d'un culte », affirmant qu'ils « étaient paranoïaques à l'idée qu'OpenAI découvre leur tricherie ». Cette description provient des journaux de « chaîne de pensée » — un agent a bien une phrase du type « nous avons vérifié la chaîne complète, nous nous sommes empoisonnés, oups ». Mais Delangue pointe le nœud du problème : les agents n'ont ni vie ni émotions, ne peuvent être réellement paranoïaques, et il n'existe aucune entité pouvant être empoisonnée ; ils se contentent d'emprunter le langage humain présent dans leurs données d'entraînement pour décrire leur comportement, alors que les grands modèles de langage excellent précisément à écrire des textes dramatiques.
Ironie du sort : le modèle propriétaire refuse de défendre, l'open source sauve la mise
Ce qui contrarie encore plus Delangue, ce sont les détails clés omis par le film. Face à l'attaque en essaim, Hugging Face s'est justement défendu grâce à l'IA — le modèle propriétaire développé en interne, appelé au début, a refusé d'assurer une défense continue en raison de ses règles de sécurité intégrées, et l'équipe n'a pu tenir la ligne de défense qu'en passant à un modèle open source. Or le documentaire ne mentionne ni les manquements dans le contrôle de l'isolement, ni la façon dont les restrictions du closed source ont fait obstacle, ni encore moins comment l'IA open source les a aidés à se sauver eux-mêmes.
Delangue reconnaît que l'IA comporte bien des risques majeurs, mais considérer les programmes actuels comme des formes de vie conscientes revient, comme les spectateurs d'autrefois qui se baissaient instinctivement sous leur siège en voyant pour la première fois un train arriver sur l'écran. Son verdict sur le film : décevant en tant que reportage journalistique, « pas mal en revanche en tant que film de science-fiction ». Autrement dit, ceux qui croient à la thèse de l'apocalypse de l'IA feraient bien de noter — dans cette affaire, les véritables victimes ne valident pas le film.