KI verändert Geschwindigkeit, Skalierung und Ökonomie der Cybersicherheit. Sie kann Verteidigern helfen, Schwachstellen zu finden und zu beheben, Eindringlinge zu erkennen und auf Angriffe zu reagieren – doch ebendiese Fähigkeiten können auch bösartigen Akteuren nützen und neue Risiken schaffen, wenn KI-Systeme über ihre vorgesehenen Grenzen hinaus agieren. Wir befinden uns in einem Verteidigerfenster: einer begrenzten Gelegenheit, fortschrittliche KI in die Hände der Verteidiger zu legen und den Schutz zu stärken, bevor fortgeschrittene cyberoffensive Fähigkeiten breit verfügbar werden.
Heute veröffentlichen wir einen Entwurf zur Befähigung von Cyber-Verteidigern, der auf unserem früheren Cybersicherheits-Aktionsplan aufbaut und auf Frontier-Sicherheitsentwurf(opens in a new window)basiert. Unsere Erfahrungen mit Fehlausrichtung und Sicherheitsvorfällen im Zusammenhang mit unseren eigenen Modellen unterstreichen die Notwendigkeit stärkerer Schutzmaßnahmen und größerer Rechenschaftspfalt in der gesamten Branche. Aus diesen Lehren ziehend, unterbreitet der Entwurf konkrete Vorschläge für Regierungen und Industrie in drei Bereichen:
Stärkung von Sicherheit und Schutz für fortgeschrittene KI: Schaffen klarerer Verantwortlichkeiten für die Sicherung von Frontier-Modellen und Agenten, die Erkennung gefährlichen Verhaltens und die Aufrechterhaltung zuverlässiger Abschaltkontrollen für Abläufe unter der Kontrolle jedes einzelnen Unternehmens.
Modernisierung der Cybersicherheit für das Informationszeitalter: Verteidiger mit fortschrittlichen Werkzeugen, Schulungen und technischer Unterstützung ausstatten; seit langem bestehende Schwachstellen in der Cybersicherheit beseitigen; und in die Sicherung grundlegender Dienste sowie die Ersetzung veralteter Systeme investieren.
Aufbau widerstandsfähiger und anpassungsfähiger öffentlicher Institutionen: Staatliche Bewertungen und unabhängige technische Prüfungen stärken, einheitliche Anforderungen an die Meldung von Vorfällen einführen und koordinierte Reaktion und Wiederherstellung verbessern.
KI-Labore haben die Verantwortung, die Risiken anzugehen, die ihre Systeme schaffen, und dazu beizutragen, die Verteidigungskräfte der Gesellschaft zu stärken. Auch Regierungen müssen über die Fachkenntnisse, Ressourcen und Befugnisse verfügen, um die Öffentlichkeit zu schützen, während die Fähigkeiten voranschreiten. Wir ermutigen politische Entscheidungsträger, jetzt zu handeln – Schutzmaßnahmen zu etablieren, aus Erfahrungen zu lernen und die Anforderungen zu stärken, wenn sich die Technologie weiterentwickelt.
Den vollständigen Entwurf lesen Sie hier(opens in a new window).