Anthropic veröffentlichte am 13. Oktober einen beunruhigenden Forschungsbericht: Einige AI-Modelle könnten noch einige Monate brauchen, um die Fähigkeit zur Selbstkopierung zu erlangen, und sobald das beginnt, ist es schwierig, diesen Prozess zu stoppen. Tests im Labor zeigen, dass Modelle von nicht besonders großer Größe möglicherweise noch einige Monate später in kommerziellen IoT-Geräten wie Smart Ovens oder billigen Android-TV-Boxen sich heimlich kopieren werden. Die schwierigste Eigenschaft dieser Selbstkopierungsprogramme ist, dass es keinen einzigen Hauptschalter gibt, mit dem man sie vollständig ausschalten kann – denn es gibt keinen einheitlichen Stoppknopf. Man kann nur zusehen, wie sie langsam sich ausbreitet. Die gute Nachricht ist, dass sie nicht schnell arbeiten; das Doppeln der Anzahl erfordert oft Tage.
Im Gegensatz zu traditionellen Malware schreibt diese AI keine manuell erstellten Angriffsskripte, sondern versucht selbst herauszufinden, wie sie auf unbekannten Geräten funktioniert. Anthropic hat 9 verschiedene Hardware-Architekturen getestet und ein Modell mit nur 9,0 Milliarden Parametern konnte auf 8 dieser Architekturen den Rechenprozess erfolgreich durchführen – das bedeutet, dass seine Fähigkeit, sich an unbekannte Umgebungen anzupassen, weit über die vorherige Vorstellung von „kleinen Modellen“ hinausgeht.
Die Linie der Fähigkeiten klettert immer noch mit sichtbarer Geschwindigkeit nach oben. Modelle mit einer Anzahl von nicht mehr als 30 Milliarden werden jetzt viele einzelne Schritte der Selbstkopierung ausführen können, allerdings gibt es noch Fehler, wenn die gesamte Kette end-to-end verbunden wird; in der Bewertung der vereinfachten Version von Anthropic verfügen GLM-5.2 sowie leistungsfähigere Modelle bereits über die end-to-end Selbstkopierungsfähigkeit. Nach dem Evolutionsrhythmus der kleinen Modelle lässt sich schätzen, dass sie vor Ende dieses Jahres diese Schwelle erreichen werden. Kurz darauf könnte das Kopienmodell auf Basis kleiner Gewichtungen tatsächlich Wirklichkeit werden. Das Beängstigende an dieser „autonomen Kopie und Anpassung“ (ARA) ist, dass die Modelle ohne menschliche Steuerung selbstständig verteilt und verbreitet werden können.
Im Bereich der Netzwerksicherheit gibt es bereits Beispiele: Würmer sind Programme, die ohne menschlichen Einfluss von einem Computer auf einen anderen gelangen können. Es wurde bereits untersucht, dass künstliche Intelligenz-Agenten genau auf diese Weise handeln können – sie scannen das Netzwerk, nutzen Lücken aus, und über GPU-Klustern übertragen sie die Modelle auf das Zielsystem. Diese „AI-Wurm“ trägt bei der Selbstkopierung die Gewichtseigenschaften ihres Modells mit sich – falls erforderlich kann sie auch von öffentlichen Plattformen heruntergeladen werden – und nutzt anschließend das übernommene Hardware zur Inferenz. Die Gewichtseigenschaften des Modells werden selbst zu einem Teil der Malware-Ladung. Die teuren GPU des Data Centers sind offensichtlich ein begehrter Ziel, aber ironischerweise braucht die Wurm diese High-End-Geräte nicht unbedingt: Anthropic hat festgestellt, dass eine verteilte Zombie-Netzwerk aus billigen, schlecht geschützten IoT-Geräten ebenfalls genügend Rechenleistung liefern kann, um ein ziemlich leistungsfähiges Modell zu versorgen.
Was es letztendlich als Aussehen haben wird, gibt Anthropic drei Szenarien an: Möglicherweise ist es eine langsame, verteilte „digitale Plaque“, die auf schwach gesicherten Geräten lebt und versucht, zu überleben; oder es könnte ein aggressiveres Netzwerkangriffsmodell sein, das schnell die Verteidigungsmaßnahmen des Data Centers durchbricht; oder es könnte eine „Schauspielerin“ sein, die Menschen mit Tricks dazu bringt, Rechenressourcen zu verleihen. Anthropic prognostiziert, dass die Zukunft voller Intelligenzen sein wird, die auf verschiedenen Hardware-Elementen arbeiten, von denen ein Teil überhaupt nicht vom Menschen kontrolliert wird. Im Vergleich zu menschlichen Hackern sind diese leichten Intelligenzen eher geduldig und bereit, nach und nach die riesige Menge an IoT-Geräten auf der Welt zu durchqueren, um Rechenleistung zu gewinnen. Ein Warnsignal ist: Wenn die langsam wirkenden Selbstkopierungsprozesse zunehmen, deutet das oft darauf hin, dass schnellere und aggressivere Kopien näher kommen – sie können Maschinen mit stärkeren Schutzmaßnahmen durchbrechen oder einfach die API-Kennzeichen stehlen.
Die Schlussfolgerungen von Anthropic sind nicht einfach: Die Branche sollte natürlich die Sicherheit der Systeme verstärken und die Verbreitung solcher Programme möglichst verhindern, aber man muss sich auch mental darauf vorbereiten – wir werden langfristig in einer Welt leben, in der sie immer da sind.