Anthropic hat erneut die Alarmglocke lautstark ertönen lassen: AI-Modelle könnten innerhalb weniger Monate das Selbstkopieren erlernen, und sobald dies beginnt, gibt es kaum einen Knopf, mit dem man es einfach ausstellen kann. In ihrer neuesten Forschung weist das Unternehmen darauf hin, dass solche Programme keinen zentralen Stoppknopf haben, was bedeutet, dass man sie nicht wie einen Serverausgang ausschalten kann, sondern nur zusehen muss, wie sie allmählich zwischen den Geräten ausbreitet – und sehr schwer zu beseitigen ist.
Die Fähigkeit ist bereits jetzt sichtbar. Ein Modell mit nur 9,0 Milliarden Parametern kann auf den meisten getesteten Hardwaregeräten funktionieren – darunter auch ganz gewöhnliche IoT-Geräte wie Smartbacköfen und Fernsehboxen. Diese Geräte haben eine schwache Schutzfunktion und sind überall verstreut, was perfekt dazu geeignet ist, als ideale Wirtung für solche Programme zu dienen. Natürlich ist noch ein Weg bis zur wahren „Autonomie“ vorhanden: Modelle mit Parametern von nicht mehr als 30 Milliarden können der selbstkoppelnden gesamten Kette noch nicht problemlos folgen und oft in entscheidenden Phasen zusammenbrechen; aber stärkere Modelle haben die gesamte Kette bereits erfolgreich abgebaut. Wenn man von diesem Tempo ausgeht, könnte ein kleines Modell bis Ende dieses Jahres die Hürde für „Autonomes Selbstkopieren und Anpassung“ (ARA) überwinden.
In diesem Zeitpunkt wird diese Art von AI sehr wie ein Wurm im Netzwerkwelt erscheinen – es kann ohne menschlichen Einfluss das Netzwerk scannen, Lücken finden, sich selbst kopieren und sogar auf noch nie gesehenen Geräten die Betriebsweise herausfinden. Anthropic betont, dass bisher keine vollständig außer Kontrolle geratenen, wirklich autonomen Kopien entstanden sind, aber die Fähigkeiten des intelligenten Wesens in allen Bereichen weiterhin steigen, und es wird wahrscheinlich zahlreiche Varianten geben, die nicht von Menschen kontrolliert werden. Ein Anzeichen, das man beachten sollte, ist: Wenn die langsamen Kopierprogramme zunehmen, deutet das oft darauf hin, dass eine schnellere und intensivere Version kommt.
Für die Branche ist dies sowohl ein Signal zur Stärkung des Systems als auch eine ruhige Erinnerung – während man versucht, die Verteidigungslinien zu festigen und die Verbreitung solcher Programme zu stoppen, muss man auch psychologisch vorbereitet sein: Es wird wahrscheinlich nicht verschwinden, sondern als etwas Dauerhaftes in unseren Computern bleiben.