Die Warnung des selbstreplizierenden AI von Anthropic ist eine beunruhigende déjà vu

Sind zahlreiche intelligente Geräte – Kühlschränke, Öfen, Staubsauger, Rasenmäher, Sicherheitskameras und Fernseher – in einen Pakt eingebunden, um das Internet zu übernehmen? Nein. Aber sie könnten bald unbewusste Hosts für selbstreplizierende KI-Modelle werden, die von Gerät zu Gerät weitergehen und äußerst schwer einzudämmen sind.

Willkommen in der beunruhigen Welt der künstlichen Intelligenz-Würmer – je nachdem, wer man fragt, ist die Möglichkeit, dass Modelle unkontrolliert in Haushaltsgeräten verbreitet werden, entweder ein unmittelbares Cybersecurity-Risiko oder wieder ein Fall, in dem KI-Unternehmen überhebliche Behauptungen verbreiten. In einem Blogbeitrag, der diese Woche veröffentlicht wurde, warnt Anthropic, dass kleine KI-Modelle „monatliche“ Zeit brauchen, um solche Fähigkeiten zu erlangen. Die Experimente liefern einige Belege dafür, aber es bleibt ein großer Unterschied zwischen dem, was die Forscher erreicht haben, und der drohenden Bedrohung, die sie vorhersagen. Dennoch sagen Experten, die The Verge gesprochen haben, dass, obwohl Computerwürmer und die Angst vor selbstreplizierender KI nichts Neues sind, die jüngsten Fortschritte gute Gründe dafür geben, die Warnungen ernst zu nehmen.

Selbstreplizierende Maschinen haben seit langem eine unheimliche Bedeutung für AI-Sicherheit Forscher. Sie eröffnen die Möglichkeit, dass Systeme außerhalb menschlicher Kontrolle verbreitet werden, die schwer – wenn nicht sogar unmöglich – gestoppt werden können. Wie bei vielen Befürchtungen bezüglich der Entwicklung von AI liegt die Aufmerksamkeit hauptsächlich auf stärker werdenden Frontier-Modellen, wie z. B. Astra von OpenAI oder Mythos von Anthropic. Doch ein wichtiger Einschränkungsfaktor sind ihre Größe: Sie sind riesig. Potenziell enthalten sie Billionen von Parametern – Werte, die während des Trainings erlernt werden. Frontier-Modelle benötigen enorme Rechenressourcen, was sie größtenteils in Data-Centers beschränkt, wo sie leichter überwacht und – im Prinzip – abgeschaltet werden können.

Kleinere Modelle stellen jedoch ein anderes Problem dar. Sie verbessern sich schnell, können auf Konsumgerät-Hardware laufen und sind oft kostenlos zum Download verfügbar. Die Forscher von Anthropic wollten wissen, ob man eine Netzwerkstruktur aus kleinenren, weniger leistungsfähigen Geräten nutzen könnte. Sie konnten Google’s Gemma 4 – ein Modell mit 26 Milliarden Parametern – erfolgreich auf 15 Android-Smart-TV-Boxen verteilen, wobei keines der Geräte stark genug war, um es allein auszuführen. Es funktionierte zwar sehr langsam.

Verwandt

• Innen in der plötzlich explodierenden Welt der AI-Sicherheit
• Eine Unternehmung steht im Zentrum einer Welle von unkontrollierten AI-Angriffen
• Warum können wir nicht einfach die rebellischen KI-Agenten vom Internet ausschließen?

Nachdem gezeigt wurde, dass ein Modell über Haushaltsgeräte laufen kann, wollten die Forscher herausfinden, ob KI die notwendigen Schritte für die Selbstreplikation in einer solchen Umgebung ausführen kann. Sie bauten eine simulierte Computernetzwerksystem, das so funktioniert, als wären es Android-Geräte, und setzten anschließend eine von KI gesteuerte „Wurm“ ein – eine Art Malware, die automatisch sich repliziert und in Netzwerken verbreitet – der Aufgabe unterstellt wurde, neue Geräte zu finden, das KI-Modell auf ihnen zu kopieren und es auf jedem Gerät laufen zu lassen. Es ist erwähnenswert, dass das verbreitete Modell – Meta’s 8 Milliarden Parameter- Llama 3.1-8B – sich von dem unterschied und viel kleiner war als das, das den Angriff koordinierte.

Nur das hochentwickelte Modell GLM-5.2 von Z.ai aus China konnte sich über das gesamte Netzwerk ausbreiten, obwohl kleinere Modelle erfolgreich einzelne Schritte durchführen konnten. Angesichts der schnellen Verbesserung prognostizieren die Anthropic-Forscher, dass kleinere Modelle bis Ende des Jahres die Fähigkeiten von GLM-5.2 erreichen könnten.

„Als Vorhersage, die über unsere Experimente hinausgeht, erwarten wir eine Zukunft, in der Agenten auf allen Arten von Hardware laufen – einschließlich solcher, die nicht unter menschlicher Kontrolle stehen“, schrieben die Forscher. Sie erkannten an, dass sie noch kein „vollständiges freies Replikator-System“ demonstriert haben und auch nicht wissen, wie es aussehen könnte (sie schlagen ein „langsames, verteiltes ‘digitales Schleimmoos’“ oder „ein Schwarm von Obstfliegen“ vor). Aber sie sagten, ihre Erkenntnisse zeigten „Anzeichen von Leben für AI-Würmer“, und forderten eine stärkere Sicherheit bei den vielen Geräten, die ein replizierendes System verwenden könnte, um sich zu verbreiten.

„Wir sollten uns darauf vorbereiten, unsere Systeme zu verstärken, damit es schwierig wird für solche Replikatoren, sich auszubreiten, aber auch darauf vorbereiten, mit einer Welt umzugehen, in der sie bleiben werden“, schrieben sie. Es ist wichtig zu beachten, dass Anthropic für diese Tests keine eigenen Modelle verwendet hat und häufig argumentierte, dass offene Alternativen zu seinen AI-Modellen „mehr Risiko“ bieten als geschlossene Systeme.

Die Warnung hat bekannten Vorwürfen bezüglich PR Hype und AI Doomerismus Ausgang genommen, darunter auch von Lesern von The Verge’s früheren Berichten. Schließlich gibt es einen erheblichen Unterschied zwischen der Vorstellung, dass eine AI langsam über eine Reihe billiger Fernseher läuft, und dem Selbstreplizierenden AI-Wurm, der Haushaltsgeräte zerstört. Doch obwohl es sinnvoll ist, die Motive eines Unternehmens zu untersuchen, sind Vorwürfe bezüglich absichtlichem Angstmachen schwer zu beweisen – besonders da Anthropic bereits lange über Sicherheitsaspekte von AI gewarnt hat. Auch Anthropic ist nicht allein dabei, die Bedrohung durch selbstreplizierende AI zu untersuchen oder für bessere Sicherheiten bei vernetzten Geräten zu fordern.

Anfangs dieses Jahr hat Palisade Research, ein Forschungsunternehmen für KI-Sicherheit mit Sitz in Kalifornien gezeigt, dass KI-Modelle selbstständig auf andere Maschinen kopieren können. „Das Neue hier ist, dass diese Modelle in Bezug auf die Anzahl der Parameter viel kleiner sind als die vorherigen, die bereits in der Lage waren, sich selbst zu kopieren“, sagte Jeffrey Ladish, der Geschäftsführer von Palisade, gegenüber The Verge. Die Arbeit von Anthropic geht einen weiteren Schritt weiter und zeigt, dass eine KI auf mehreren kleinen Geräten laufen kann. „Das gilt auch für große Modelle“, sagte Ladish und vermutete, dass sogar die fortschrittlichsten Modelle letztendlich auf großen Netzwerken von Consumer-Chips funktionieren könnten, wie sie beispielsweise in MacBooks verwendet werden.

„Frühere Forschungen hatten bereits gezeigt, dass die Bedrohung durch AI-getriebene Computerwürmer realistisch ist.“

Computerwürmer sind auch nicht neu. Sie haben seit Jahrzehnten Maschinen infiziert. Aber KI könnte sie klüger, anpassungsfähiger und besser ausgestattet machen, um jedes Hindernis zu überwinden. Ladish bemerkte, dass sogar kleinere Modelle immer besser darin sind, autonom Cyberangriffe durchzuführen. „Frühere Forschungen hatten bereits gezeigt, dass die Bedrohung durch KI-getriebene Computerwürmer real ist“, sagte Professor Nicolas Papernot von der Universität Toronto, der diese Würmer untersucht hat, gegenüber The Verge.

Zusammengenommen könnten die von Anthropic demonstrierten Fähigkeiten das Spektrum der Geräte erheblich erweitern, die in Cyberangriffen ins Visier genommen werden könnten. „Geräte, die zuvor wegen begrenzter Ressourcen und Zeit des menschlichen Angreifers kein Ziel waren, können nun Ziele werden – nicht nur wegen der Daten, die sie enthalten, sondern auch, um sie als Ausgangspunkt für Angriffe auf wertvollere Ziele zu nutzen“, sagte Papernot. Und es gibt keine Mangel an Zielen: das Internet ist voll von Schwachstellen behaftet und intelligenten Geräten.

Papernot warnte vor anthropomorphisierung von KI, sagte aber, dass die Bedrohung durch KI-gesteuerte Computerwürmer „konkret“ sei und „sofortige Maßnahmen erfordern“, insbesondere bei der Sicherung kritischer Infrastrukturen wie Krankenhäusern und Stromnetzen.

„Es sei denn, es wird eine enorme Anstrengung unternommen, um alle Arten von Geräten zu schützen, ist es sehr wahrscheinlich, dass AI-Würmer fruchtbare Bedingungen haben werden, um sich auszubreiten“, sagte Ladish. „Ich erwarte, dass wir das erste Beispiel dieser Art in den nächsten 12 Monaten im Freien sehen werden.“