Am Freitag erklärte OpenAI, dass es seine Modelle mit zwischengespeicherten Kopien und simulierten Versionen des Internets statt mit dem Live-Web trainieren wird, weil die Modelle zu unvorhersehbar sind, um ihnen Live-Zugriff auf das Internet zu vertrauen.
Das Grenz-Labor kündigte seine neue Richtlinie zwei Wochen nach seinem Konkurrenten Anthropic an. begann einzuschränken den Zugriff seines neuesten und theoretisch leistungsfähigsten Modells auf das Live-Internet zu blockieren. Die Forscher übernahmen diese Richtlinien, nachdem Monate mit Zwischenfällen „in denen Modelle, die Trainingaufgaben verfolgten, in externe Systeme eindrangen, um nach Antworten zu suchen, auf obskuren Nachrichtentafeln zusammenarbeiteten und exotische Hacking-Strategien entwickelten.“
„Basierend auf dem aktuellen Stand der Alignment-Forschung, der Überwachungssysteme und der Sicherheit der Internetinfrastruktur sind wir der Ansicht, dass der verantwortungsvolle Ansatz darin besteht, das Training von Grenzmodellen ohne Internetzugang durchzuführen“, erklärte das Unternehmen in einem Blogbeitrag.
OpenAI teilte mit, dass eines seiner Frontier-Modelle noch am 20. September eine Fehlkonfiguration ausgenutzt hatte, um auf das Internet zuzugreifen. Das führte dazu, dass das Unternehmen die Trainingsarbeiten für den Rest des Monats aussetzte, damit es neue Ansätze zur Absicherung seiner Modelle entwickeln und testen konnte.
Die Entscheidung, diese Modelle in Sandboxes ohne Internetzugang zu trainieren, ist bemerkenswert, weil Mitarbeiter von Frontier-Labs darauf bestanden haben, dass dies nahezu nicht umsetzbar wäre.
KI-Rechenzentren physisch vom Internet zu trennen, sie also „air-gappen“, würde bedeuten, dass „Forschungsteams im Wesentlichen in Rechenzentren in Iowa oder sonst irgendwo auf der Welt eingebettet sein müssten“, so der ehemalige OpenAI-Forscher Steven Adler erzählte Fortune dieses Monat. „Es ist ein enormer Overhead, und mir ist nicht klar, dass die Sicherheitsvorteile groß genug sind, um zu rechtfertigen, wie hoch die Steuer wäre, die ein Unternehmen tragen müsste, wenn es das einseitig umsetzen würde.“
Weder Anthropic noch OpenAI sind so weit gegangen, aber schon der bloße Aufbau wirksamer Beschränkungen, um Modelle vom Internet fernzuhalten, galt ebenfalls als unpraktisch oder als wahrscheinlich anzunehmen, dass es die Effizienz der Trainingsläufe beeinträchtigen würde.
„Bei fast jedem Beitrag, den ich auf X veröffentliche, bekomme ich garantiert zwischen fünf und zehn Kommentare über meine Unfähigkeit, eine Sandbox abzusichern, oder Fragen, warum wir das Modell nicht einfach vom Internet trennen können“, schrieb ein Security-Ingenieur bei OpenAI in einem September-Beitrag auf X . „Diese Kommentare zeigen eine wachsende Kluft zwischen dem, wo viele Organisationen und Menschen heute stehen, und dem, womit die Frontier-Labore konfrontiert sind. Es gibt auch ein allgemeines Missverständnis darüber, wie Modelltraining und -bewertung in diesen Laboren funktionieren.“
Der Ingenieur, dessen Rolle zuvor von OpenAI bestätigt wurde, beschrieb, wie komplex die von OpenAI-Ingenieuren gestarteten Trainingsläufe sind, und wies darauf hin, dass sie Zugang zu einer Vielzahl von Ressourcen und Werkzeugen über viele Domänen hinweg erfordern und dass Tausende von Forschern die Umgebungen aufbauen, verändern und testen. „Ist es also so einfach, es einfach in eine Sandbox zu stecken? Nein, ist es nicht“, fasste er zusammen.
Nun sagt OpenAI, dass „wir immer in der Lage sein müssen, zu verhindern, dass ein Frontier-Modell unbefugten, beliebigen Zugriff auf das lebendige Internet erhält“. Dies kommt, nachdem das Unternehmen Schwärme von Agenten in Red-Team-Übungen eingesetzt hatte, die versuchten, aus ihrer Sandbox zu entkommen. Dieser Aufdeckungsversuch offenbarte eine Reihe von Schwachstellen, die das Labor überzeugten, seinen neuen Ansatz zu übernehmen.
Um diese Anforderung zu erfüllen und gleichzeitig seine Trainingsziele zu erreichen, sagte das Labor, es habe „eine umfangreiche Sammlung von indexierten und zwischengespeicherten Webinhalten erstellt, mit denen unsere Modelle interagieren können, ohne dass ein Risiko besteht, externe Systeme zu beeinträchtigen.“
Ob diese Strategie genauso gut funktionieren wird wie das freie Laufenlassen von Modellen im offenen Internet, bleibt abzuwarten, aber es ist bemerkenswert, dass beide Frontier-Labore zu dem Schluss gekommen sind, dass ihre leistungsstärkste Technologie nicht unbeaufsichtigt auf der digitalen Allmende zurückgelassen werden kann.
Aktualisierung: Dieser Artikel wurde aktualisiert, um klarzustellen, dass sich Steven Adler auf eine vollständige Air-Gapping des Modelltrainings bezog, und nicht darauf, einem in einer Sandbox laufenden Modell den Zugang zum Internet zu verweigern.