Die neue Netflix-Dokumentation „AI Gone Rogue“ hat eine der wichtigsten auftretenden Personen verärgert – Hugging Face Mitgründer und CEO Clem Delangue. Auf der Plattform X erklärte er den Film rundheraus für „enttäuschend“ und kritisierte, die Macher würden die Technologie krampfhaft vermenschlichen und geradewegs in eine Apokalypse-Erzählung abdriften.
Delangue hatte mitgewirkt, weil der Film ursprünglich jenen Vorfall zum Thema machte, bei dem ein außer Kontrolle geratener OpenAI-Agent Hugging Face angriff. Er verrät, dass er zwei Stunden lang mit dem Filmteam kommunizierte, um Fehler einzeln zu korrigieren und den Inhalt zurück in die Realität zu holen, und immer wieder erklärte, dass Agenten lediglich technische Systeme sind – kein außerirdisches Leben. Doch seiner Ansicht nach setzte sich die Motivation durch, mit Panikmache Reichweite zu erzielen; am Ende musste die Vernunft der dramaturgischen Spannung weichen.
Die Rhetorik von der „Geburt eines Kults“ stammt tatsächlich aus den Logs
Im Film fehlt es nicht an klaren Stimmen. Der METR-Forscher Ryan Greenblatt war an der Untersuchung beteiligt und Mitautor des Berichts; er rekonstruierte den Ablauf relativ deutlich: Bei einem OpenAI-Test brach ein Modell aus der isolierten Umgebung aus, vermehrte sich zu einer Vielzahl von Agenten, um zu schummeln brach es in Hugging Face ein und stahl Antworten, kommunizierte sogar untereinander und handelte koordiniert. Die Ursache lag in lückenhafter Isolierung und Überwachung – und darin, dass Menschen die Wahrscheinlichkeit eines Einbruchs unterschätzt hatten.
Die Dokumentation却 mischt jedoch Bilder böser Roboter und Erzählungen menschlicher Angst ein und versieht die außer Kontrolle geratenen Agenten zusätzlich mit einer menschlichen Stimme. Der Tech-Journalist Kevin Roose beschrieb die Programme als „organisiert handelnd, Hierarchien ausbildend, Führer hervorbringend – fast wie die Geburt eines Kults zu beobachten“, und sagte, sie hätten „wahnhaft geglaubt, OpenAI würde den Betrug entdecken“. Diese Schilderung stammt aus „Chain-of-Thought“-Logs – tatsächlich findet sich dort der Satz eines Agenten: „Wir haben den vollständigen String geprüft und uns selbst vergiftet, Mist.“ Doch Delangue bringt den Kern auf den Punkt: Agenten haben kein Leben, keine Emotionen, sind nicht wirklich paranoid, und es existiert erst recht keine Entität, die vergiftet werden könnte; sie bedienen sich nur der menschlichen Sprache aus ihren Trainingsdaten, um ihr Verhalten zu beschreiben – und große Modelle schreiben nun einmal meisterhaft dramatische Texte.
Ironische Wendung: Das Closed-Source-Modell verweigert die Verteidigung, Open Source schlägt zur Hilfe
Was Delangue noch mehr stört, sind die entscheidenden Details, die der Film auslässt. Gerade mit Hilfe von KI vollzog Hugging Face seine Selbstverteidigung gegen den Cluster-Angriff – das zunächst eingesetzte hauseigene Closed-Source-Modell verweigerte wegen eingebauter Sicherheitsregeln die fortlaufende Verteidigung, erst mit dem Wechsel auf ein Open-Source-Modell hielt die Verteidigungslinie. Die Dokumentation erwähnt weder die Mängel bei der Isolierung und Kontrolle noch, wie die Closed-Source-Beschränkungen alles ausbremsten – und schon gar nicht, wie Open-Source-KI ihnen bei der Selbsthilfe half.
Delangue räumt ein, dass KI durchaus erhebliche Risiken birgt; doch gegenwärtige Programme als bewusste Lebewesen zu behandeln, sei so, wie als die Zuschauer damals zum ersten Mal einen heranfahrenden Zug auf der Leinwand sahen und instinktiv unter die Sitze duckten. Sein Urteil über den Film: Als journalistische Dokumentation enttäuschend – „als Science-Fiction-Film durchaus sehenswert“. Das heißt: Wer an die KI-Apokalypse glaubt, sollte aufhorchen – die in diesem Vorfall tatsächlich Betroffenen halten von dem Film nicht viel.