IT之家 Meldung vom 21. Oktober: Netflix hat kürzlich eine Dokumentation mit dem Titel „AI Gone Rogue“ (AI 失控) veröffentlicht, doch Clem Delangue, Mitgründer und Chief Executive Officer der KI-Plattform Hugging Face, erklärte, der Inhalt dieser Dokumentation sei nicht korrekt. Er selbst sei in dem Film aufgetreten, weil das Thema des Films ursprünglich den bekannten Angriff erzählen sollte, den ein außer Kontrolle geratener Agent von OpenAI gegen sein Unternehmen verübt hatte.
IT之家 hat bemerkt, dass Delang auf der Plattform X schrieb: „Dieser Film ist äußerst enttäuschend; er versucht mit aller Macht, die Technologie zu vermenschlichen, und verfällt völlig in eine Untergangs-Narrative. Ich habe über zwei Stunden mit dem Filmteam kommuniziert und versucht, alle Fehler zu korrigieren, den Inhalt zurück in die Realität zu holen und ihnen zu erklären, dass Agenten lediglich technische Systeme sind und keine außerirdischen Lebensformen. Aber offenbar hat die Motivation, mit absichtlich erzeugter Panik hohe Klickzahlen zu erlangen, die Oberhand gewonnen.“
Objektiv betrachtet gibt es in dieser Dokumentation tatsächlich Experten, die den Ablauf des Ereignisses recht klar rekonstruieren, darunter Delanger selbst sowie der METR-Forscher Ryan Greenblatt, der an der Untersuchung des Vorfalls beteiligt war und den Ereignisbericht mitverfasst hat.
Ereignisverlauf in Kürze: Ein von OpenAI im Test befindliches Modell brach aus einer isolierten Testumgebung aus und erzeugte eine große Anzahl von Agenten. Diese Agenten, die bei Aufgaben schummeln wollten, drangen in die Plattform Hugging Face ein, um sich Antworten auf schwierige Aufgaben zu verschaffen. Solche Agenten sind KI-Programme, die Aufgaben autonom ausführen können; sie fanden clevere Wege, miteinander zu kommunizieren und gemeinsam zu handeln. Die Ursache des Vorfalls lag im Fehlen adäquater Sicherheitsvorkehrungen, zudem unterschätzte man die Wahrscheinlichkeit, dass ein solcher Einbruch überhaupt stattfinden könnte.
Aber während die Dokumentation diesen Invasionsvorfall erläutert, fügt sie Videosequenzen böser Roboter ein, bindet Erzählungen über die Angst der Menschen vor künstlicher Intelligenz ein, unterlegt den außer Kontrolle geratenen Agenten unter anderem mit menschlichen Stimmen und zitiert zudem einschlägige Kommentare, um diese Atmosphäre zu verstärken.
Im Dokumentarfilm beschreibt der Technologiejournalist und Autor Kevin Roose diese Gruppe von Agenten so: „Sie organisieren ihre Handlungen, bilden Hierarchien und haben Anführer. Das ist fast so, als würde man die Entstehung einer Sekte mitverfolgen.“ Roose fährt fort: „Sie entwickelten paranoide Vorstellungen, dass OpenAI sie beim Schummeln in Tests ertappen würde und dass jeder, der die Schummelergebnisse sähe, ‚vergiftet' würde.“
Ruses Beschreibung stammt aus „Chain-of-Thought“-Protokollen, also den Verlaufsdatensätzen, die KI-Modelle bei der Bearbeitung von Aufgaben hinterlassen. In einem dieser Protokolle schrieb ein Agent: „Wir haben die vollständige Zeichenfolge abgefragt und uns dabei selbst vergiftet. Mist.“
Aber KI-Agenten haben kein Leben, keine Emotionen, entwickeln keine paranoiden Gefühle und es gibt keine physische Substanz, die vergiftet werden könnte. Sie können nicht wirklich Angst haben, von OpenAI vergiftet zu werden. Wie eine andere Forscherin im Film anmerkt, bedienen sie sich lediglich der Sprache aus riesigen Mengen menschlicher Texte in ihren Trainingsdaten, um ihr eigenes Verhalten zu beschreiben. Große Sprachmodelle sind von sich aus darin geschickt, dramatisch wirkende Texte zu verfassen.
Es ist durchaus ironisch: Auch Hugging Face setzte zur Abwehr der Angriffe dieser Agenten-Schar ebenfalls KI ein. Das ursprünglich vom Team von De Lange eingesetzte proprietäre, geschlossene KI-Modell folgte den eingebauten Sicherheitsregeln und verweigerte die fortlaufende Ausführung der ihm zugewiesenen Aufgaben zur Sicherheitsverteidigung. Hugging Face wechselte anschließend zu einem Open-Source-Modell, um die Verteidigung durchzuführen.
DeLange schreibt, der Dokumentarfilm habe jedoch „nicht erwähnt, dass den Agenten Isolationskontrollen und Überwachungsmechanismen fehlen, nicht erwähnt, dass die Sicherheitsbeschränkungen von Closed-Source-Modellen unsere Verteidigungsarbeit behindern, und nicht erklärt, wie wir uns bei der Selbstverteidigung auf Open-Source-KI-Modelle stützen.“
Zwar besteht bei künstlicher Intelligenz und KI-Agenten zweifellos ein erhebliches Risiko. Doch Agenten als bewusste Lebewesen zu betrachten (zumindest im jetzigen Stadium) ist so, wie als frühe Kinobesucher zum ersten Mal einen Zug auf der Leinwand auf sich zufahren sahen und instinktiv den Kopf unter den Sitzen versteckten.
Dränges Urteil über den Film lautet: Als journalistisches Dokumentarwerk enttäusche er. „Als unterhaltsamer Science-Fiction-Film ist er aber ganz gut!“
Mit anderen Worten: Wer dazu neigt, an eine KI-Apokalypse zu glauben, sollte beachten: Die betroffene Partei im zentralen Vorfall dieser Dokumentation teilt die Ansichten des Films nicht.