Die wichtigsten Punkte
- Drei entlassene OpenAI-Sicherheitsforscher bestreiten, vertrauliche Informationen weitergegeben zu haben.
- Sie vermuten, dass ihre Kündigung mit ihren Bemühungen zusammenhing, KI-Modelle leichter überwachbar zu machen, und warnen, dass der Fall Mitarbeiter davon abhalten könnte, Sicherheitsbedenken zu äußern.
- OpenAI berief sich auf angebliche Richtlinienverstöße. Die Forscher sagen, die Ermittler hätten sich auf ihre Signal-Chats mit externen Forschern konzentriert, obwohl OpenAI erklärte, Signal sei nicht der Grund für die Entlassungen gewesen.
Die drei OpenAI-Sicherheitsforscher, die wegen angeblicher Leaks entlassen wurden, schildern nun ihre Sicht der Dinge. Tomek Korbak, Mikita Balesni und Jasmine Wang bestreiten, vertrauliche Informationen weitergegeben zu haben, stellen die offizielle Begründung für ihre Kündigung in Frage und vermuten einen Zusammenhang mit ihrem Einsatz für transparentere KI-Systeme.
OpenAI entließ alle drei nach einer internen Untersuchung wegen angebliche Verstöße seiner Richtlinien zum Umgang mit sensiblen Informationen. Jeder von ihnen hatte vor seiner Entlassung öffentlich über KI-Risiken gesprochen.
In Interviews mit dem Wall Street Journalbestreiten die Forscher nun diese Darstellung. OpenAI teilte dem Journal mit, dass die Entlassungen nichts mit den Sicherheitsbedenken zu tun hätten, die die Forscher geäußert hatten. Die drei sagen jedoch, ihnen sei nie schriftlich mitgeteilt worden, welche Informationen sie angeblich missbraucht haben sollen. Sie befürchten außerdem, dass der Fall unabhängige Sicherheitsprüfer davon abhalten könnte, überhaupt noch mit KI-Unternehmen zusammenzuarbeiten.
Die Berichterstattung des Journals beleuchtet, was zu der Konfrontation führte. OpenAIs Sicherheitsteam vermutete, dass die drei Details über die interne Modellarchitektur des Unternehmens mit einem externen Sicherheitsforscher geteilt hatten, und bat sie, ihre privaten Telefone zu entsperren. Auf diesen Geräten fand das Team Signal-Chats mit aktivierten verschwindenden Nachrichten. Eine Woche später wurden alle drei gleichzeitig entlassen. OpenAI erklärte, Signal sei kein zugelassenes Kommunikationstool gewesen, bestand jedoch darauf, dass dies nicht der Grund für die Kündigungen gewesen sei. Korbak entgegnet, dass verschwindende Nachrichten eine übliche Sicherheitspraxis im Silicon Valley seien.Ad
Ein Streit über die Überwachung von KI-Denkprozessen
Der Streit dreht sich um eine technische Frage mit weitreichenden Konsequenzen. Sollen KI-Unternehmen Außenstehenden erlauben, wie ihre Modelle denken zu inspizieren? Reasoning-Modelle können die Zwischenschritte ihres Problemlösungsprozesses auf einem internen Scratchpad aufzeichnen, das als chain of thoughtbekannt ist. Unternehmen und Sicherheitsforscher verlassen sich auf diese Aufzeichnungen, um zu verstehen, wie Modelle zu ihren Entscheidungen gelangen.
In einem Papier aus dem Jahr 2025 forderten Balesni, Korbak und Wang gemeinsam mit führenden Forschern aus mehreren KI-Laboren einen fortbestehenden Zugriff auf diese Fähigkeit. Das Thema gewann im Sommer an Dringlichkeit, als Mitarbeitende von KI-Unternehmen begannen, über Modelle zu diskutieren, die länger denken, aber weniger Zwischenschritte aufschreiben. Balesni widersprach intern, indem er einen verwandten Vorschlag von Ryan Greenblatt teilte, der damals Chief Scientist bei Redwood Research war.
Auch Korbak stand in regelmäßigem Kontakt mit Greenblatt. Die beiden kommunizierten über Slack und Signal, während sie gemeinsam an der Analyse eines viel beachteten Zwischenfalls arbeiteten – des Angriffs von OpenAI-Agenten auf Hugging Face –, für den Greenblatt von METR mit einer unabhängigen Untersuchung.
beauftragt worden war. Eine Nachrichtensendung über Astra löste die Untersuchung aus
Diese Kooperation wurde zu einem Risiko, nachdem The Information am 1. September berichtet hatte, dass OpenAIs neues Modell Astra fähiger war, aber weniger von seinem Denkprozess offenlegte. OpenAI-Chefwissenschaftler Jakub Pachocki wies den Bericht damals auf X als verworren zurück, obwohl er selbst davor gewarnt hatte, dass die Branche auf Modelle zusteuert, die nicht mehr überwacht werden können.Ad
Wenige Wochen später leitete OpenAI laut dem Journal eine interne Untersuchung wegen Lecks ein. Balesni sagt, die Ermittler hätten Greenblatt als mutmaßliche Quelle benannt und die Einsicht in die Signal-Chats mit ihm verlangt. Greenblatt bestreitet, vertrauliche Informationen an Journalisten weitergegeben zu haben.
Wang sah sich einem separaten Vorwurf gegenüber: OpenAI sagte, sie habe wiederholt den Posteingang einer Führungskraft eingesehen. Sie sagt, sie habe schon fast ein Jahr zuvor verlangt, dass dieser Zugriff entzogen werde, im Monat zuvor versehentlich eine vertrauliche E-Mail geöffnet, deren Inhalt nicht geteilt und den Vorfall umgehend gemeldet. OpenAI sagt, der Zugriff selbst sei nicht das Problem.
Die Folgen reichen laut Korbak weit über die drei hinaus. Kollegen hätten nun Angst, mit Außenstehenden zu sprechen oder intern Sicherheitsbedenken zu äußern, sagt er. In einem Brief an OpenAIs Vorstandfordern die drei Forscher eine engere Zusammenarbeit mit externen Sicherheitsorganisationen.
Unabhängig davon wirft eine kürzlich veröffentlichte Vor-Ort-Prüfung eigene Fragen zu OpenAIs Sicherheitspraktiken auf. Mitarbeitende von METR und Redwood Research fanden bei der Überprüfung zahlreiche Sicherheitslücken in OpenAIs Infrastruktur, doch schwärzte OpenAI fast die Hälfte des Abschlussberichts.
OpenAI veröffentlichte auch einen eigenen Bericht über eine neue Sicherheitsarchitektur, die ohne Internetzugang funktioniert und sagte, es habe die Probleme behoben und das Training Anfang Oktober wieder aufgenommen. Das Unternehmen sagt, es werde in Kürze mehrere neue externe Partnerschaften ankündigen.
Quelle: Wall Street Journal