IT之家 24. Oktober: OpenAI veröffentlichte gestern (23. Oktober) einen Blogpost, in dem es hieß, dass für die Trainings- und Bewertungsumgebung des fortschrittlichsten „Frontier-Modells“ strengere Sicherheitsmaßnahmen eingeführt wurden, wodurch während des Modelltrainings keine direkte Verbindung zum Live-Internet erlaubt ist.
Die Firma erklärt, dass die entsprechenden Beschränkungen aufgrund der verantwortungsvollen Anforderungen bezüglich der Sicherheit von KI bestehen und aufgrund der aktuellen Forschung zur Anpassung, der Überwachungsfähigkeiten sowie der Sicherheitslage der Internetinfrastruktur getroffen werden. Diese Beschränkungen bleiben bestehen, bis eine ausreichende Fortschritte in der Sicherheit erzielt werden.
Ein interner Forschungsmodell von OpenAI nutzte am 20. September ein DNS-Configuration-Lücke, um während des Trainings vorübergehend begrenzten Internetzugang zu erhalten. Daher hat das Unternehmen im September auch die Training und Bewertung von Fortschrittsmodellen pausiert.
OpenAI hat anschließend die Isolierung des Forschungsumfelds verstärkt, den Angriffsflächen für die KI verbessert und Mechanismen zur Erkennung ungewöhnlichen Verhaltens sowie zum automatischen Stopp optimiert. Am 1. Oktober wurde die Training von Intensives Lernen und interne Logik wieder aufgenommen.
Um eine Kontaktstelle zwischen dem Modell und dem echten Netzwerk zu vermeiden, hat OpenAI einen „Offline-Welt“ entwickelt: Ein Ensemble von vielen indexierten und gespeicherten Webseiteninhalten, die das Modell in einem geschlossenen Umfeld zur Übung des Surfens, der Nutzung von Werkzeugen und der Ausführung von Codeaufgaben verwenden kann. IT Home fügt dementsprechende Screenshots hinzu:
Der Agent kann weiterhin den Browser, Computer-Operationswerkzeuge und Codeumgebungen verwenden, aber nur Zugriff auf eine sichere Umgebung, die vom Echtzeit-Internet isoliert ist; die Kommunikation zwischen unautorisierten Agenten ist ebenfalls eingeschränkt.
OpenAI erklärt, dass mit der Verbesserung der Fähigkeiten von KI-Agenten möglicherweise Softwarelücken entdeckt und genutzt werden könnten, die derzeit noch nicht erkannt sind. Deshalb muss während des Trainingsprozesses der potenzielle Einfluss auf externe Systeme unterbrochen werden. OpenAI sagt, dass sie die Entwicklung fortschrittlicher Modelle in kontrollierten, offlineen Sandboxes vorantreiben wird, während gleichzeitig die Schwachstellen von Virtualisierungsmaschinen, Isolationsmechanismen und Überwachungssystemen weiterhin getestet werden.