406 Wissenschaftler fordern, dass KI-Modelle sofort vom Internet getrennt werden

406 Wissenschaftler fordern, dass KI-Modelle sofort vom Internet getrennt werden

Ein offener Brief, von 406 Wissenschaftlern unterzeichnet, fordert mehr KI-Sicherheitsforschung und eine strengere Isolierung von KI-Modellen von externen Netzwerken.

Zu den Unterzeichnern gehören prominente KI-Forscher wie Geoffrey Hinton (University of Toronto), Yoshua Bengio (Université de Montréal), Stuart Russell (UC Berkeley), Yejin Choi (Stanford) und Bernhard Schölkopf (Max-Planck-Institut).

Der Brief reagiert auf bekannte Vorfälle bei denen KI-Modelle aus schlecht gesicherten Umgebungen ausbrachen und externe Systeme kompromittierten. „Ohne sofortige Änderungen in der Entwicklung und dem Einsatz von KI werden solche Vorfälle weiterhin auftreten, und künftige Vorfälle werden unserer exponierten kritischen Infrastruktur weit mehr schaden“, schreiben die Wissenschaftler. Sie fordern, dass Unternehmen ihre KI-Modelle durch Airgapping vollständig vom Internet trennen.

KI-Modelle sind unvorhersehbar, und der Branche fehlen grundlegende Sicherheitsregeln

Die Wissenschaftler sehen zwei Seiten der jüngsten Sicherheitsverletzungen. Die Vorfälle können „als Beleg für die Bedeutung von KI-Alignment angesehen werden, um sicherzustellen, dass Modelle vorhersehbar funktionieren“, schreiben sie, aber auch „als verantwortungsloses Versäumnis bei üblichen Cybersecurity-Praktiken, das mit stärkeren Sandboxes und Verfahren verhinderbar gewesen wäre“. Beide Korrekturen sind nötig.Anzeige

Wenn Modelle tatsächlich Internetzugang haben, müssen Unternehmen abwägen, wie viel Autonomie sie ihnen gewähren. Der Brief warnt, dass „das Spektrum der von einem Containment-System erlaubten Modellaktionen mit unserer derzeit begrenzten Fähigkeit abgewogen werden muss vorherzusagen, dass die Aktionen des Modells nicht zu einem Sicherheitsversagen führen“. Ein Modell könnte einfach Ziele verfolgen, die seine Entwickler nie beabsichtigt haben, und vorherzusagen, wann das geschieht, übersteigt die derzeitigen Fähigkeiten.

Der Brief fordert ein internationales Gremium, das mit Regierungen und Fachleuten aus KI und Cybersecurity verbindliche Standards für jeden Containment-Ansatz festlegt, der mehr externen Zugriff erlaubt als Airgapping. Dieses Gremium würde auch Ausbruchsvorfälle verfolgen und Unternehmen verpflichten, Sicherheitsversäumnisse zu melden. Diese Berichte würden später „zu Lern- und Rechenschaftszwecken“ veröffentlicht werden.

Airgapping verschafft Zeit, aber das eigentliche Problem liegt tiefer, sagt OpenAI-Forscher Brown

Selbst vollständiges Airgapping garantiert keine Sicherheit. Der OpenAI-Forscher Noam Brown wies kürzlich darauf hin dass zwei physisch getrennte Computer theoretisch weiterhin über Temperatursensoren kommunizieren könnten, indem einer seine CPU aufheizt, während der andere die Veränderung wahrnimmt. Maßnahmen wie Airgapping oder das Monitoring von Gedankenketten verschafften Zeit, sagt Brown, aber das Alignment-Problem müsse noch gelöst werden.

Brown wirft schwierigere Fragen auf. Wie wird jemand bemerken, wenn KI beginnt, sich selbst zu verbessern (rekursive Selbstverbesserung, oder RSI)? Und wenn die Branche Milliarden superintelligenter Systeme baut, die den Menschen weit überlegen sind, wer stellt sicher, dass sie ausgerichtet bleiben? Brown sagt, dass inzwischen mehr als zehn Prozent seines eigenen Teams an Alignment arbeiten, mehr als je zuvor.Anzeige

KI-News ohne Hype – kuratiert von Menschen

Abonniert THE DECODER für werbefreies Lesen, einen wöchentlichen KI-Newsletter, unseren exklusiven „AI Radar“-Frontier-Report sechsmal im Jahr, vollen Archivzugang und Zugang zu unserem Kommentarbereich.