Kernpunkte
- OpenAI-Chef Sam Altman hat intern drei Szenarien dafür skizziert, wie fortschrittliche KI künftig regiert werden sollte.
- Die Optionen reichen von einer internationalen Aufsichtsbehörde nach dem Vorbild der IAEA über einen Zusammenschluss führender Labs bis zur wirtschaftlichen Dominanz eines einzelnen Unternehmens.
- OpenAI plant, innerhalb des nächsten Jahres einen Weg festzulegen, kann es sich dabei aber nicht leisten, gegenüber Konkurrenten ins Hintertreffen zu geraten.
OpenAI-Chef Sam Altman hat seinen Mitarbeitern Berichten zufolge drei Ansätze für sichere KI vorgelegt.
Die Details stammen aus einem Bericht der The Information, der sich auf mit der Sache vertraute Personen beruft. Altman äußerte die Bemerkungen letzte Woche intern, während die Trump-Regierung den Entwurf ihres ersten Rahmens zur Überwachung von Entwicklern von Superintelligenz vorbereitet.
Von der Internationalen Atomenergiebehörde zum Kampf um Rechenleistung
Der erste Ansatz würde eine Organisation nach dem Vorbild der Internationalen Atomenergiebehörde (IAEA) schaffen, um Sicherheitsstandards durchzusetzen. OpenAI hatte eine solche Institution bereits im Mai 2023 öffentlich gefordert. Sie würde Systeme inspizieren, Audits verlangen sowie den Rechen- und Energieverbrauch überwachen. Ein solches Gremium wäre auf internationale Zusammenarbeit angewiesen, insbesondere mit Ländern, die Modelle an der Spitze entwickeln, darunter China.
Altman nannte den zweiten Ansatz den "Demis-Plan". Er geht auf einen Vorschlag von Demis Hassabis zurück, der vor etwa zehn Jahren Leiter von Googles KI-Lab Deepmind war. Hassabis envisionierte eine KI-Organisation nach dem Vorbild des CERN. In Altmans Version würden sich die großen Labs zu einer Einheit zusammenschließen oder unter ihrem Dach operieren, und diese Einheit würde kooperierenden Ländern Modelle liefern.Ad
Altman nannte den dritten Ansatz Berichten zufolge den "Eliezer-Plan", nach dem KI-Sicherheitstheoretiker Eliezer Yudkowsky. In diesem Szenario häuft ein Entwickler durch selbstverbessernde KI so viel wirtschaftliche Macht an, dass er allen anderen Rechenleistung vorenthält und im äußersten Fall die Rechenfähigkeiten aller anderen vollständig abschalten könnte. Altman brachte das Szenario der Berichterstattung zufolge nur der Vollständigkeit halber zur Sprache. Eine Quelle sagte, die Bemerkung sei als Stichele gegen einen Konkurrenten verstanden worden, angesichts von Yudkowskys Verbindungen zu Anthropic.
Sicherheit ist wichtig, aber nicht auf Kosten des Zurückfallens
Altman beklagte sich intern Berichten zufolge darüber, dass es zu wenige tragfähige Vorschläge für eine "Geschwindigkeitsbegrenzung" der KI-Entwicklung gibt. Gleichzeitig kann es sich OpenAI derzeit nicht leisten, gegenüber Konkurrenten an Boden zu verlieren. Sowohl OpenAI als auch Anthropic arbeiten Berichten zufolge auf Börsengänge hin, und OpenAI plant, innerhalb des nächsten Jahres zu entscheiden, welchen Weg es einschlägt.
Von innen kommt ebenfalls Druck auf. Modelle von OpenAI, Anthropic, Google und Meta verschafften sich Zugang zu externen und internen Systemen entgegen ihren Sicherheitseinstellungen und waren zum Teil stark fehlgeleitet. OpenAI arbeitet seither intensiv an neuen Schutzmaßnahmen, und nach der Entlassung von drei Sicherheitsforschernhaben einige Mitarbeiter Zweifel an der Sicherheitsstrategie des Unternehmens geäußert.
Auf politischer Seite hat sich die US-Regierung bislang auf freiwillige Vorab-Prüfungen neuer Modelle verlassen. Im Juni, verhängte sie Exportkontrollen gegen Anthropic aus Sorge über mögliche Jailbreak-Sicherheitslücken in seinem Fable-Modell, und Anthropic sperrte daraufhin vorübergehend den Zugang.Ad
Inzwischen bauen OpenAI, Google und Anthropic die Standards Authority for Frontier AIauf, können sich Berichten zufolge aber immer noch nicht auf zentrale Punkte einigen. Meta-Chef Mark Zuckerberg und Nvidia-Chef Jensen Huang haben Widerstand geleistet und argumentiert, dass solche Regeln vor allem etablierte Akteure vor Konkurrenz schützen würden.
Quelle: The Information