KI verändert Geschwindigkeit, Skalierung und Ökonomie der Cybersicherheit. Sie kann Verteidigern helfen, Schwachstellen zu finden und zu beheben, Eindringlinge zu erkennen und auf Angriffe zu reagieren – doch ebendieselben Fähigkeiten können böswilligen Akteuren nützen und neue Risiken schaffen, wenn KI-Systeme über ihre vorgesehenen Grenzen hinaus handeln. Wir befinden uns in einem Verteidigerfenster: einer begrenzten Gelegenheit, fortschrittliche KI in die Hände der Verteidiger zu legen und die Schutzmaßnahmen zu stärken, bevor fortschrittliche cyberoffensive Fähigkeiten weit verbreitet verfügbar werden.
Heute veröffentlichen wir einen Blueprint zur Befähigung von Cyber-Verteidigern, der auf unserem früheren Cybersicherheits-Aktionsplan aufbaut und frontier safety blueprint(opens in a new window). Unsere Erfahrung mit Fehlausrichtung und Sicherheitsvorfällen im Zusammenhang mit unseren eigenen Modellen unterstreicht die Notwendigkeit stärkerer Schutzmaßnahmen und Rechenschaftspflicht in der gesamten Branche. Gestützt auf diese Erkenntnisse legt der Blueprint konkrete Vorschläge für Regierungen und die Industrie in drei Bereichen vor:
Stärkung von Sicherheit und Schutz für fortgeschrittene KI: Schaffung klarerer Verantwortlichkeiten für die Sicherung von Modellen und Agenten an der Grenze, die Erkennung gefährlichen Verhaltens und die Aufrechterhaltung zuverlässiger Abschaltkontrollen für Vorgänge unter der Kontrolle jedes einzelnen Unternehmens.
Modernisierung der Cybersicherheit für das Informationszeitalter: Ausstattung der Verteidiger mit fortschrittlichen Werkzeugen, Schulungen und technischer Unterstützung; Behebung seit langem bestehender Schwachstellen in der Cybersicherheit; und Investitionen in die Sicherung essenzieller Dienste und die Ersetzung veralteter Systeme.
Aufbau widerstandsfähiger und anpassungsfähiger öffentlicher Institutionen: Stärkung behördlicher Bewertungen und unabhängiger technischer Prüfungen, Einführung einheitlicher Anforderungen an die Berichterstattung über Vorfälle und Verbesserung der koordinierten Reaktion und Wiederherstellung.
KI-Labore haben die Verantwortung, die Risiken anzugehen, die ihre Systeme schaffen, und dazu beizutragen, die Verteidigung der Gesellschaft zu stärken. Auch Regierungen müssen über das Fachwissen, die Ressourcen und die Befugnisse verfügen, um die Öffentlichkeit zu schützen, während die Fähigkeiten voranschreiten. Wir fordern politische Entscheidungsträger auf, jetzt zu handeln – Schutzmaßnahmen zu etablieren, aus der Erfahrung zu lernen und die Anforderungen zu stärken, während sich die Technologie weiterentwickelt.
Den vollständigen Blueprint lesen Sie hier(opens in a new window).