In den vergangenen Monaten haben wir die Sicherheit unserer Forschungstrainingsumgebung erheblich gehärtet. Wir haben live Internetzugang für alle Frontier-Modelle während des Trainings entfernt und stattdessen eine Offline-Welt für sie aufgebaut – eine zwischengespeicherte Version des Internets, in der sie weiterhin das Navigieren, Suchen und die Nutzung von Anwendungen lernen können.
Am 20. September, nachdem ein Modell eine DNS-Fehlkonfiguration ausnutzte, um einen Weg aus dieser Offline-Welt zu finden, pausierten wir das Frontier-Training, um die Eindämmung weiter zu verstärken. Wir stellten Teams von Agenten zusammen, die von unseren leistungsfähigsten Cyber-Modellen angetrieben wurden, und beauftragten sie, Schwachstellen in unseren Forschungsumgebungen zu finden.
Während sie keinen Weg ins Internet fanden, den sie leicht hätten ausnutzen können, während sie ihre Aktivitäten vor unseren Überwachungssystemen verbergen, fanden sie doch Zero-Day-Schwachstellen, Fluchten aus virtuellen Maschinen und Hardware-Seitenkanäle zur Kommunikation zwischen Agenten. Wir nutzten ihre Entdeckungen, um unsere Abwehrmaßnahmen weiter zu stärken und Korrekturen zu Open-Source-Software beizutragen.
Nach der Verstärkung unserer Eindämmungsarchitektur nahmen wir unser Frontier-RL-Training und die Inferenz am 1. Oktober wieder auf. Wir haben erhebliche Rechenleistung für kontinuierliches Red-Teaming reserviert und Red-Teaming mit hoher Rechenleistung Teil der Sicherheitsfälle gemacht, anhand derer wir entscheiden, ob Frontier-Training und -Evaluation sicher fortgesetzt werden können.
https://openai.com/index/securing-our-frontier-model-training-environment/