IT之家 Meldung vom 9. Oktober: Die drei vergangenen Woche plötzlich entlassenen ehemaligen OpenAI-Forscher Mykita Baleisni, Tomek Korbak und Jasmin Wang haben heute (den 9.) einen offenen Brief veröffentlicht. Darin äußern sie die Sorge, dass dieser Schritt andere Mitarbeiter davon abhalten könnte, ihre Meinung öffentlich zu äußern, und dass dies zu einem „Einschüchterungseffekt“ auf die Unternehmenskultur von OpenAI führen könnte.
In dem offenen Brief mit dem Titel „OpenAI kann die KI-Sicherheit nicht allein gewährleisten“ führen die drei aus, dassOpenAI „kein gewöhnliches Unternehmen“ seiund dass es ein wichtiger Bestandteil der Arbeitskultur von OpenAI sei, dass Mitarbeiter unbesorgt mit externen Institutionen zusammenarbeiten können, um Sicherheitsprobleme zu lösen.
Der offene Brief wurde von Baleisni, der zuvor in der KI-Ausrichtung geforscht hatte, in den sozialen Medien veröffentlicht und richtet sich an die verschiedenen Sicherheitskomitees von OpenAI. Die beiden anderen Unterzeichner, Korbak und Jasmin Wang, waren zuvor beide in der KI-Sicherheitsforschung tätig und wurden ebenfalls entlassen.
Laut Business Insider erklärte ein OpenAI-Sprecher, das Unternehmen habe nach einer internen Untersuchung festgestellt, dass die dreigegen Vorschriften zum Zugang zu und Umgang mit sensiblen Informationen verstoßen hätten。
Die drei Forscher erklärten hingegen jeweils in den sozialen Medien, das Unternehmen habe ihnen die Entlassungsgründe nur mündlich mitgeteilt, und ihr früheres Verhalten habe sich jeweils im Rahmen ihrer Aufgabenbefugnisse bewegt.
Jasmin Wang, dem der Zugriff auf die E-Mails eines Führungskräfte-Mitglieds vorgeworfen wurde, antwortete darauf: „Der vom Unternehmen genannte Entlassungsgrund ist überhaupt nicht haltbar.“
Baleisni schrieb in einem Beitrag, das Unternehmen habe ihm mitgeteilt, dass man ihm nicht mehr vertraue, weil er „zu viel mit externen Sicherheitsinstitutionen kommuniziert“ habe. „Ich habe niemals geistiges Eigentum des Unternehmens nach außen weitergegeben. Meine Arbeit habe ich stets mit meinem direkten Vorgesetzten, der Führung der Forschungsabteilung und dem Vorstand abgestimmt.“
Auch Korbak schrieb, das Unternehmen habe ihm mündlich mitgeteilt, der Entlassungsgrund sei seine „Art der Kommunikation mit METR“ gewesen. „Ich möchte klarstellen: Die Kommunikation mit METR war ohnehin Teil meiner Arbeit.“
Hinweis von IT之家: METR ist eine gemeinnützige Forschungseinrichtung, die für die Bewertung von KI-Modellen und deren Sicherheitsrisiken zuständig ist.
、
Die drei äußern im offenen Brief die Sorge, dass andere Mitarbeiter künftig möglicherweisenicht mehr wie zuvor ihre Meinung äußern und ihre Arbeit ausüben könnten– was bis vergangene Woche ein unverzichtbarer Teil der Arbeit bei OpenAI war. „Mitarbeiter so plötzlich zu entlassen wie uns und die Betroffenen derart überstürzt zu informieren, hat der offenen Kultur, auf die OpenAI früher stolz war, einen Einschüchterungseffekt zugefügt.“
Die drei unterbreiteten OpenAI zudem drei Vorschläge: die Zulassung externer Sicherheitsaudits im Unternehmen, um sicherzustellen, dass fortschrittliche KI-Modelle weiterhin wirksam überwacht werden können, sowie die Unterstützung von Sicherheitsforschern dabei, mit anderen Institutionen und Personen im Bereich der KI-Sicherheit„offene und transparente Kommunikation“ zu pflegen。
Ein Leiter der Forschungsabteilung von OpenAI äußerte in einem an die Mitarbeiter gerichteten internen Memo starke Unterstützung für die drei Vorschläge. „Wir sind außerordentlich dankbar für ihren Beitrag zur Arbeit an der KI-Sicherheit und dafür, dass siees wagten, offen zu sprechen und bestehende Auffassungen in Frage zu stellen. Wir schätzen ihre Meinung, unterstützen ihre Arbeit und haben großes Vertrauen in sie. Eines muss ich klarstellen: Die Entlassungsentscheidunghatte nichts damit zu tun, dass sie Sicherheitsfragen aufwarfen oder öffentlich sprachen. Wir haben Mitarbeiter stets ermutigt, ihre Meinung zu äußern, und werden dies auch künftig tun. Wir entlassen niemanden, nur weil er Bedenken äußert.“
Korbak schrieb zudem in den sozialen Medien, er befürchte, dass OpenAI die Entlassung der drei als „Vorwand“ nutzen könnte, um die Zusammenarbeit mit METR zu reduzieren.