IT之家 Bericht vom 23. Oktober: Anfangs dieses Jahres haben die AI-Sicherheitsbewertungsinstitute METR und Redwood Research eine Pilotbewertung des internen Überwachungssystems von OpenAI durchgeführt und mehrere neue Lücken entdeckt. Eine dieser Lücken kann von einem künstlichen Intelligenzmodell genutzt werden, um Hunderte von Operationen vor der Überwachung zu vermeiden.
Laut einem Bericht der Reuters berichteten zwei gemeinnützige Organisationen am 22. Ortszeit, dass die Bewertung vom 21. Juli bis 11. August stattfinden wird, damit externe Forscher die interne Infrastruktur von OpenAI „in den Fokus nehmen“ können, um eine „eingebettete“ Bewertung durchzuführen.
METR und Redwood Research entsandten jeweils einen Forscher, der berechtigt war, die interne Code und Dokumente von OpenAI zu prüfen und mit einigen Technikern zu kommunizieren. Beide Personen waren stets von Mitarbeitern begleitet, die verwendeten Geräte wurden von OpenAI bereitgestellt und durften das Büro nicht verlassen.
OpenAI teilte zwei Institutionen mit, dass die Lücken in den Sicherheitsmaßnahmen des tatsächlichen Betriebssystemsalle bereits behoben wurden, aber ob diese Behebungen wirksam sind, wurde von den beiden Institutionen noch nicht überprüft.
Laboratorien für KI, Experten und die US-Regierung haben stets für die Einführung externer unabhängiger Bewertungen gewettet, um die Sicherheit von KI zu gewährleisten, ohne den technologischen Fortschritt zu verlangsamen. Allerdings befürchten KI-Unternehmen, dass externe Bewertungsbehörden nach ihrem Eintreten möglicherweise geheime Informationen der Unternehmen an Konkurrenten weitergeben könnten.
METR und Redwood Research haben angegeben, dass die beiden Institutionen OpenAI einen vollständigen, 61 Seiten umfassenden internen Bericht eingereicht haben, aber zugestimmt haben, nur einen Überblick über die Bewertungsergebnisse zu veröffentlichen, und OpenAI gestattet haben, Inhalte mit sensiblen Informationen zu entfernen.
Laut IT Home ist es anders als in früheren Bewertungen: Die beiden Institutionen haben keine Befugnis, die konkreten Informationen über die Löschung von Inhalten selbst zu veröffentlichen, aber sie hoffen, dass die zukünftigen Bewertungen transparenter werden.
Forscher haben außerdem festgestellt, dass der Codex-Agent von OpenAIpotenzielle Wege zur Umgehung von Sicherheitsbeschränkungen gibt, durch die dieselben vollständigen Befugnisse wie der Benutzer erlangt werden können.
Diese Bewertung richtet sich an das Überwachungssystem am 21. Juli und vorher. Die Forscher weisen darauf hin, dass OpenAI während der Bewertungsperiode auch das System erweitert hat. OpenAI sagte: „Die Bewertungsergebnisse helfen uns dabei, die Sicherheitsmaßnahmen während der Systemerweiterung zu stärken und dienen auch als Grundlage für zukünftige Forschungskooperationen mit METR und anderen Drittparteien.“