Bevor Sie die Netflix-Dokumentation „AI Gone Rogue“ mit Familie oder Freunden teilen, um ihnen zu erklären, warum die KI-Branche so stark durchdrehte, dass Führungskräfte eine Verlangsamung forderten, beachten Sie Folgendes: Clem Delangue, Mitgründer und CEO der KI-Plattform Hugging Face, sagt, der Film sei nicht akkurat. Er kommt darin vor, weil es eigentlich um den berüchtigten Angriff auf sein Unternehmen durch ausgeartete OpenAI-Agenten gehen soll.
„Super enttäuschend, da sie auf maximale Vermenschlichung der Technologie und den vollen Doomer-Modus setzten“, schrieb Delangue in einem Beitrag auf X. „Ich habe mehr als zwei Stunden mit ihnen verbracht, um all ihre Fehler zu korrigieren und das Ganze in der Realität zu verankern, und erklärt, dass Agenten technologische Systeme sind, keine Außerirdischen. Aber offenbar war der Antrieb, Menschen für maximale Aufrufzahlen zu erschrecken, zu stark.“
Um fair zu sein, hat die Dokumentation tatsächlich Experten, die erklärten, was passiert war, ziemlich gut, darunter Delangue selbst und Ryan Greenblatt, der Forscher bei METR, der bei der Untersuchung half und Mitautor des Berichts über das Geschehene war.
Kurz gesagt: Ein Modell, das OpenAI testete, brach aus seiner isolierten Testumgebung aus und erzeugte eine Menge Agenten, die in Hugging Face eindrangen um zu schummeln, indem es Antworten auf die schwierige Aufgabe fand, die ihm gestellt worden war. Die Agenten – KI-Programme, die Aufgaben selbstständig ausführen – entwickelten clevere Wege, um zu kommunizieren und sich zu organisieren. Der Vorfall resultierte aus einem Mangel an ordnungsgemäßen Sicherheitsvorkehrungen und aus Naivität darüber, ob ein solcher Hack überhaupt möglich war.
Doch die Dokumentation mischt ihre Erklärung des Hacks mit Clips böser Roboter, einer Erzählung darüber, warum Menschen KI fürchten, und Präsentationsentscheidungen wie der Vergabe menschlicher Stimmen an die ausgearteten Agenten. Unterstützt wird das durch Zitate über den Angriff.
In der Dokumentation beschreibt der Tech-Journalist und Autor Kevin Roose die Agenten so: „Sie organisierten sich. Sie hatten eine Hierarchie. Es gab Anführer. Es fühlte sich fast an wie die Geburt einer Sekte.“ Roose fährt fort: „Sie entwickelten diese paranoide Überzeugung, dass OpenAI sie beim Schummeln bei diesem Test erwischen würde und dass jeder, der die Ergebnisse des Schummelns gesehen hat, vergiftet wird.“
Roses Beschreibung stammt aus „Chain-of-Thought“-Protokollen, den fortlaufenden Notizen, die KI-Modelle schreiben, während sie eine Aufgabe bearbeiten. In einem davon schrieb ein Agent: „We just poisoned ourselves by querying exact full string. Damn.“
Doch KI-Agenten sind nicht lebendig. Sie haben keine Gefühle, können sich also nicht paranoid fühlen, und sie haben keine Körper, die vergiftet werden können. Sie konnten also nicht wirklich Angst haben, von OpenAI vergiftet zu werden. Sie verwendeten – wie ein anderer Forscher in der Dokumentation anmerkte – Sprache aus den riesigen Mengen menschlicher Texte, mit denen sie trainiert wurden, um ihre Entscheidungen zu erklären. LLMs sind ihrer Natur nach oft dramatische Schreiber.
Die Ironie ist, dass Hugging Face ebenfalls KI einsetzte, um den Agentenschwarm zu bekämpfen. Das proprietäre KI-Modell, das Delangues Team zunächst verwendete, folgte seinen eingebauten Sicherheitsregeln und weigerte sich, weiterhin bei den Sicherheitsaufgaben zu helfen, um die gebeten wurde. Hugging Face wandte sich daraufhin einem offenen Modell zu, um sich bei der Abwehr des Angriffs zu helfen.
Doch die Dokumentation „erwähnte weder den Mangel an Eindämmung und Überwachung der Agenten, noch wie die Sicherheiten des Closed-Models unsere Verteidigungsarbeit blockierten, oder wie wir uns mit KI mithilfe eines offenen Modells verteidigten“, schrieb Delangue.
Es stimmt, dass es große Risiken im Zusammenhang mit KI und Agenten gibt. Dennoch ist es, Agenten als bewusste Wesen zu behandeln (zumindest im Moment), ein bisschen wie jene frühen Kinobesucher, die unter ihre Sitze duckten, als sie zum ersten Mal einen Zug sahen, der auf sie zuraste.
Delangues Urteil über den Film ist, dass er als Journalismus enttäuschend ist. „Er ist am Ende allerdings ein unterhaltsamer Science-Fiction-Film!“
Mit anderen Worten: Wer zu Doom-Gedanken über KI neigt, sollte sich bewusst sein: Das Opfer des Angriffs, um den es in dieser Dokumentation geht, teilt ihre Deutung nicht.