IT之家 Meldung vom 25. Oktober: Drei OpenAI-Sicherheitsforscher, die wegen des Verdachts auf Informationslecks entlassen wurden, haben ihre Sicht der Dinge geschildert. Tomek Korbak, Mikita Balesni und Jasmine Wang bestreiten, vertrauliche Informationen weitergegeben zu haben, stellen die offizielle Begründung für ihre Entlassung in Frage und vermuten, dass der Vorgang mit ihrem fortwährenden Eintreten für mehr Transparenz bei KI-Systemen zusammenhängt.
Nach einer internen Untersuchung kam OpenAI zu dem Schluss, dass drei Personen gegen die Vorschriften zum Umgang mit sensiblen Informationen verstoßen hatten, und entließ sie. Vor ihrer Entlassung hatten alle drei öffentlich Ansichten zu KI-Risiken geäußert.
IT之家 hat mitgeteilt, dass mehrere Forscher in einem Interview mit dem Wall Street Journal die offizielle Darstellung widerlegten. OpenAI teilte der Zeitung mit, die Entlassung habe nichts mit den von ihnen geäußerten Sicherheitsbedenken zu tun. Doch drei Forscher erklärten, das Unternehmen habe ihnen nie schriftlich mitgeteilt, welche Informationen genau unsachgemäß behandelt worden seien. Sie befürchten zudem, dass dieser Vorfall unabhängige Sicherheitsauditeure davon abhalten könnte, künftig mit KI-Unternehmen zusammenzuarbeiten.
Der Bericht des Wall Street Journal rekonstruiert die Ursachen dieses Konflikts. Das Sicherheitsteam von OpenAI verdächtigte die drei Personen, einem externen Sicherheitsforscher Details zur internen Modellarchitektur des Unternehmens offengelegt zu haben, und forderte sie auf, ihre privaten Handys zu entsperren. Die Ermittler fanden auf den Handys Signal-Chatverläufe, bei denen die Funktion für automatisch löschende Nachrichten aktiviert war. Eine Woche später wurden alle drei gleichzeitig entlassen. OpenAI erklärte, Signal sei kein vom Unternehmen gebilligtes Kommunikationsmittel, betonte jedoch, dass dies nicht der Grund für die Entlassung gewesen sei. Kolbacher widersprach dem dagegen und verwies darauf, dass automatisch löschende Nachrichten im Silicon Valley ohnehin eine übliche Sicherheitspraxis seien.
Streitpunkt: Sollen die Denkschritte von KI einer Überprüfung zugänglich sein?
Im Kern dieses Streits liegt eine weitreichende technische Frage: Ob KI-Unternehmen externen Personen Einblick in den Denkprozess ihrer Modelle gewähren sollten. Reasoning-Modelle zwischenspeichern die Zwischenschritte der Problemlösung in einem internen „Chain-of-Thought“-Bereich; Unternehmen und Sicherheitsforscher verlassen sich auf diese Aufzeichnungen, um die Logik nachzuvollziehen, mit der Modelle zu ihren Urteilen gelangen.
In einer Arbeit aus dem Jahr 2025 forderten Bałasiński (巴莱斯尼), Kolbak (科尔巴克) und Moli Wang (王茉莉) gemeinsam mit führenden Forschern mehrerer KI-Labore, diese überprüfbare Fähigkeit dauerhaft beizubehalten. In diesem Sommer wurde die Frage dringlicher: Mehrere KI-Firmen begannen intern über eine neue Klasse von Modellen zu diskutieren – Modelle, die länger nachdenken, aber weniger dokumentierte Zwischenschritte aufzeichnen. Bałasiński erhob innerhalb des Unternehmens Widerspruch und leitete einen einschlägigen Vorschlag von Ryan Greenblatt, dem damaligen Chefwissenschaftler von Redwood Research, weiter.
Kolbak hält auch häufigen Kontakt zu Greenblatt. Die beiden arbeiten über Slack und Signal zusammen und analysieren gemeinsam einen viel beachteten Vorfall: den Angriff eines OpenAI-Agenten auf Hugging Face. Greenblatt wurde von METR mit dieser unabhängigen Untersuchung beauftragt.
Ein Bericht über Astra löste eine interne Untersuchung aus
Am 1. September veröffentlichte The Information einen Bericht, demzufolge OpenAIs neues Modell Astra leistungsfähiger sei, aber weniger von seinen Gedankengängen offenlege. Diese Zusammenarbeit wurde damit zum Auslöser von Ärger. Damals bezeichnete OpenAI-Chefwissenschaftler Jakub Pachocki den Bericht auf der Plattform X als logisch wirr, wobei er zuvor selbst davor gewarnt hatte, dass die gesamte Branche in einem Wettrennen daran arbeite, Modelle zu entwickeln, die schwer zu überwachen seien.
Laut dem Wall Street Journal leitete OpenAI einige Wochen später eine interne Untersuchung wegen Informationslecks ein. Barresy zufolge kamen die Ermittler zu dem Schluss, Greenblatt sei die Empfängerin der durchgestochenen Informationen gewesen, und forderten die Herausgabe der Signal-Chatverläufe zwischen beiden. Greenblatt bestritt, einer Journalistin vertrauliche Informationen weitergegeben zu haben.
Die Vorwürfe gegen Wang Moli wurden dagegen gesondert erhoben: OpenAI erklärte, sie habe mehrfach auf das Postfach eines Führungskräften zugegriffen. Ihre Erklärung lautet, sie habe die Entzug dieser Berechtigung schon vor fast einem Jahr beantragt; im vergangenen Monat habe sie lediglich versehentlich eine vertrauliche E-Mail geöffnet, deren Inhalt weder weitergeleitet noch verbreitet, und den Fehler umgehend gemeldet. OpenAI erklärte, die Berechtigung selbst sei nicht das eigentliche Problem.
Kolbak ist der Ansicht, dass die negativen Folgen des Vorfalls weit über die drei Personen hinausgehen. Er sagt, seine Kollegen würden inzwischen nicht mehr mit Außenstehenden sprechen und auch im Internen keine Sicherheitsbedenken mehr äußern. Die drei Forscher haben bereits einen Brief an den OpenAI-Vorstand gerichtet und eine engere Zusammenarbeit mit externen Sicherheitsbehörden gefordert.
Auch ein gerade veröffentlichter Vor-Ort-Auditingbericht stellt OpenAIs Sicherheitsprozesse in Frage. Bei ihrer Überprüfung fanden die Auditoren von METR und der Redwood Research numerous Sicherheitslücken in OpenAIs Infrastruktur, doch OpenAI schwärzte fast die Hälfte des Abschlussberichts.
OpenAI hat zudem einen neuen Bericht über eine Sicherheitsarchitektur veröffentlicht, die beim Betrieb vom Internet getrennt ist. Das Unternehmen erklärte, die betreffenden Schwachstellen seien inzwischen behoben und das Modelltraining Anfang Oktober (10.) wieder aufgenommen worden; außerdem werde man in Kürze mehrere neue externe Kooperationen bekannt geben.