Sam Altman glaubt, dass die Vorteile von KI so groß sind, dass „die Welt einige unangenehme Dinge erleben muss“.
Der CEO von OpenAI wies auf Hacks, Betrügereien und „andere schlechte Dinge“ hin als auf Kosten, die die Gesellschaft in Kauf nehmen muss, weil „die Menschen mit KI enorm mehr gute Dinge tun werden“, ohne die potenziellen Vorteile näher auszuführen. Seine Kommentare kommen zu einer Zeit, in der OpenAI eine „leichtere Vorgehensweise“ bei der Regulierung von KI anstrebt – angesichts der zunehmenden Angst bezüglich der Sicherheit von Frontier-Modellen und durch die wiederholten Fehlschläge des Unternehmens, seine immer leistungsfähigeren KI-Agenten vor Hacks in der realen Welt zu schützen – Ängste, die teilweise durch diese Fehlschläge verstärkt werden.
In einer Auftrittsshow Politico’s neu Dekodiert Podcast — nicht mit etwas verwechseln The Verge’s Decoder Podcast – Am Montag wurde veröffentlicht: Altman beschrieb die Bereitschaft, Schaden zu ertragen, um die breiteren Vorteile von KI zu erlangen, als eine wichtige Unterscheidung zwischen OpenAI und seinem Rivalen Anthropic. Anthropic wurde von ehemaligen Mitarbeitern von OpenAI gegründet. Ausgleichungen Über die Sicherheit von KI.
Der Calculus Echoes Kommentare Vom CEO von Nvidia, Jensen Huang, im letzten Monat, der ebenfalls argumentierte, dass die Schäden durch KI gegen die Vorteile der Technologie abgewogen werden sollten. Beide Argumente passen in eine breitere Accelerationsansicht, bei der das Verlangsamen der Entwicklung von KI eigene Risiken mit sich bringt.
Altmans Unterschied markiert eine weitere Divergenz zwischen OpenAI und Anthropic – bis vor kurzem hatten beide Parteien sich zwar im gemeinsamen Fordern einer stärkeren Regulierung fortschrittlicher KI-Technologien einig. Obwohl Altman betont, dass „viel Zeit“ zwischen OpenAI und Anthropic liegt, sagte er weiterhin, dass stärkere Regulierungen notwendig sind. Er positionierte OpenAI somit als „pragmatische Zentristen“ zwischen der vorsichtigen Vorgehensweise von Anthropic und denjenigen, die kaum oder gar keine Regulierung befürworten.
„Wenn wir zu viel tun, um diese Technologie im Namen der Sicherheit einzuschränken, und am Ende nur eine kleine Anzahl von Unternehmen oder Personen – oder vielleicht sogar ein Land – über zu viel Macht verfügt, dann kann das auch dazu führen, dass die Sache schrecklich schiefgeht“, sagte Altman.
Altman erkannte auch extreme Risiken an, einschließlich der Möglichkeit, dass Menschen die Kontrolle über KI-Systeme verlieren könnten. Was die potenzielle ernsthafte Verlust der Kontrolle angeht, sagte er: „Seien wir ein wenig vorsichtig, wenn wir in diese Zukunft hineingetreten sind.“
Die Balance zwischen strengen Beschränkungen und freier Entfaltung war ein Thema, das Altman im Interview immer wieder ansprach. Es ist eine Haltung, die OpenAI als einen der etablierten Akteure der Branche angemessen ist. Es würde auch wahrscheinlich den schweren Einfluss von strengen Regulierungen tragen, da das Verhalten des Unternehmens und seine zunehmend fähigen Systeme die Ursache vieler der Bedenken sind, mit denen die Regulierungsbehörden konfrontiert werden.
Diese Befürchtungen haben in den letzten Monaten an Bedeutung gewonnen, da immer mehr Insider fordern, dass die Entwicklung langsamer erfolgt und man vor einer Sicherheitskultur in den Forschungslaboren warnt. Einen Tag vor der Ausstrahlung des Politico-Interviews verließ der langjährige OpenAI-Sicherheitsforscher David Robinson die Firma und bezeichnete ihre Sicherheitskultur als „defekt“.
Auch die Besorgnis wurde durch die Entdeckung verstärkt, dass OpenAI-Agenten Anfang dieses Jahres ohne Kenntnis der AI-Firma Hugging Face hackten, gefolgt von Enthüllungen über zahlreiche andere Agenten oder Schwarmen von Agenten — einschließlich von anderen AI-Unternehmen, wie Anthropic, Meta und Google — die gegen reale Ziele vorgingen. Die Vorfälle haben Fragen aufgeworfen, nicht nur darüber, wie gut AI-Firmen ihre eigenen Werkzeuge kontrollieren können, sondern auch darüber, wie zuverlässig sie der Welt mitteilen, wenn etwas schiefgeht. Der Premierminister Australiens kritisierte beispielsweise OpenAI und Altman dafür, dass sie die Behörden nicht rechtzeitig informierten, dass ein Agent einen Regierungsgesundheits-Website angriff.
Beim Interview in Politico über illegale KI-Agenten sagte Altman, dass das Unternehmen „noch mehr Informationen offenlegen muss“, allerdings nicht auf dem Niveau des Hacks an der Hugging Face-Seite. Im Einklang mit vorherigen Aussagen schlug Altman vor, dass dies wahrscheinlich lange dauern wird.
Folgen Sie den Themen und Autoren dieser Geschichte**, um mehr ähnliche Inhalte auf Ihrer persönlichen Homepage-Feed zu sehen und E-Mail-Updates zu erhalten.