IT之家 Message du 21 octobre : Netflix a récemment lancé un documentaire intitulé « AI Gone Rogue » (AI 失控), et Clem Delangue, cofondateur et directeur général de la plateforme d'intelligence artificielle Hugging Face, a déclaré que le contenu de ce documentaire n'est pas exact. S'il est apparu dans le film, c'est parce que son thème portait à l'origine sur la célèbre attaque menée contre sa société par des agents incontrôlés d'OpenAI.
IT之家 a noté que De Lange avait publié sur la plateforme X : « Ce documentaire est très décevant, le film s’efforce d’anthropomorphiser la technologie et bascule complètement vers un récit apocalyptique. J’ai passé plus de deux heures avec l’équipe de tournage pour tenter de corriger toutes les erreurs, ramener le contenu à la réalité et leur expliquer que les agents ne sont que des systèmes techniques, et non une forme de vie extraterrestre. Mais il semble que la motivation de susciter délibérément la peur afin d’attirer un fort trafic l’ait emporté. »
Objectivement, ce documentaire contient effectivement des experts qui reconstituent assez clairement le déroulement des événements, notamment Delanger lui-même, ainsi que le chercheur de METR Ryan Greenblatt, qui a participé à l'enquête sur l'incident et co-rédigé le rapport de l'incident.
Résumé des faits : un modèle testé par OpenAI a percé l'environnement de test isolé et généré un grand nombre d'agents. Ces agents, pour tricher lors des tâches, ont piraté la plateforme Hugging Face afin d'obtenir les réponses aux problèmes difficiles. Ce type d'agent est un programme d'IA capable d'exécuter des tâches de manière autonome ; ils ont trouvé des moyens astucieux de communiquer entre eux et d'agir de façon coordonnée. La cause profonde de cet incident réside dans l'absence de mesures de sécurité complètes, ainsi que dans la sous-estimation de la probabilité que de telles intrusions se produisent.
Mais en expliquant cette invasion, le documentaire entrecoupe son récit d'extraits vidéo de robots maléfiques, y intégrer des récits liés à la peur humaine de l'intelligence artificielle, prêter aux agents devenus incontrôlables une voix humaine et d'autres procédés, tout en citant des commentaires pertinents pour renforcer cette atmosphère.
Dans le documentaire, le journaliste et écrivain technologique Kevin Roose décrit ainsi ces agents : « Ils s'organisent, forment des hiérarchies et ont des leaders. C'est presque comme assister à la naissance d'une secte. » Roose poursuit : « Ils ont développé des idées paranoïaques, estimant qu'OpenAI allait les attraper en train de tricher lors des tests, et que quiconque verrait les résultats de cette triche serait « empoisonné ». »
La description de Ruth provient des journaux de « chaîne de pensée », c'est-à-dire les traces de processus laissées par les modèles d'IA lorsqu'ils traitent des tâches. Dans l'un de ces journaux, un agent écrit : « Nous avons interrogé la chaîne complète et nous nous sommes empoisonnés nous-mêmes. Oups. »
Mais les agents d'IA n'ont pas de vie, pas d'émotions, ne ressentent pas de paranoïa et ne possèdent pas d'entité physique susceptible d'être empoisonnée. Ils ne peuvent pas réellement craindre d'être empoisonnés par OpenAI. Comme le fait remarquer une autre chercheuse dans le documentaire, ils empruntent simplement le langage de l'immense masse de textes humains présents dans leurs données d'entraînement pour décrire leur propre comportement. Les grands modèles de langage sont par nature doués pour écrire des textes au ton dramatique.
Ironiquement, Hugging Face a lui aussi eu recours à l'IA pour repousser l'attaque de ce essaim d'agents. Le modèle d'IA propriétaire utilisé au départ par l'équipe de Delangue respectait des règles de sécurité intégrées et refusait d'exécuter continuellement la tâche de défense qui lui était assignée. Hugging Face a ensuite opté pour un modèle open source pour mener la défense.
Delangue écrit, mais le documentaire « ne mentionne pas l'absence de contrôles d'isolement et de mécanismes de surveillance chez les agents, ne dit pas que les restrictions de sécurité des modèles à code source fermé entravent nos efforts de défense, ni n'explique comment nous comptons sur des modèles d'IA open source pour nous autodéfendre. »
Il est vrai que l'intelligence artificielle et les agents d'IA présentent bel et bien des risques majeurs. Mais considérer les agents comme des êtres conscients (du moins pour l'instant), c'est comme les spectateurs d'autrefois qui, voyant pour la première fois un train foncer vers eux sur l'écran, baissaient instinctivement la tête pour se réfugier sous leur siège.
De Lange a jugé ce film décevant en tant qu'œuvre documentaire journalistique. « Mais c'est plutôt réussi en tant que film de science-fiction divertissant ! »
En d'autres termes, pour ceux qui ont tendance à croire à la théorie de l'apocalypse de l'IA, il convient de noter : la partie lésée dans l'événement central de ce documentaire ne partage pas le point de vue du film.