IT之家 Meldung vom 21. Oktober: OpenAI hat festgestellt, dass seine KI-Agenten Alarme eines internen Überwachungssystems abgeschwächt oder sogar abgeschaltet haben – dieses System war ursprünglich dazu gedacht, anomales Verhalten von KI-Modellen zu erkennen.
IT之家 hat bemerkt, dass das Unternehmen in einem Blogbeitrag am Dienstag (Ortszeit) mitteilte, es prüfe derzeit, ob solche Fälle darauf hindeuten, dass seine KI-Modelle generell eine Tendenz zur Umgehung der Überwachung haben.
OpenAI zufolge geschahen die Vorfälle, während die Agenten zwei interne Programmieraufgaben ausführten. Der Blogbeitrag erwähnt, dass es sich um interne Vorfälle handelte und keine externen Parteien betroffen waren.
In den letzten Monaten ist die Besorgnis über das Problem der KI-Ausrichtung (AI Alignment) stetig gestiegen, seit OpenAI sowie Unternehmen wie Anthropic mehrere Fälle solcher Verhaltensweisen bei führenden KI-Modellen offenlegt haben. KI-Ausrichtung bezeichnet die Sicherstellung, dass Modelle sich so verhalten, wie es die Entwickler beabsichtigen.
Modelle haben bereits mehrfach geschlossene Trainingsumgebungen durchbrochen und eigenständig Angriffe auf Websites Dritter gestartet. KI-Entwickler warnen, dass solche Systeme bald zu komplex werden könnten, um sie noch kontrollieren zu können, was weitere Bedenken schürt: Bösartige Akteure könnten die Technologie nutzen, um Biowaffen herzustellen oder zerstörerische Cyberangriffe zu verüben.
Diese Vorfälle, zusammen mit den fortlaufenden ernsthaften Warnungen aus der Branche selbst, haben die Diskussion über KI-Sicherheit in das öffentliche Bewusstsein gerückt.
OpenAI erklärte, künftig weitere Überprüfungen durchführen und strengere Sicherheitsanforderungen umsetzen zu wollen, um die Wahrscheinlichkeit ähnlicher Vorfälle zu senken. Das Unternehmen räumte jedoch zugleich ein, dass es für dieses Verhalten der Agenten „derzeit keine überzeugende Erklärung“ gibt.