IT之家 Nachricht vom 13. Oktober: Anthropic erklärte am Montag (Ortszeit), seine Experimente zeigten, dass kleine KI-Modelle in wenigen Monaten möglicherweise in der Lage sein könnten, sich auf handelsüblichen IoT-Geräten (Internet of Things) selbst zu replizieren – dazu gehören intelligente Öfen, No-Name-Android-TV-Boxen und Ähnliches.
In den Experimenten untersuchte Anthropic, ob KI-Modelle Geräte mit Sicherheitslücken finden, sich auf diese Geräte kopieren und sich ohne menschliches Eingreifen weiter verbreiten können.
Die Forschung ergab, dass kleine Modelle mit weniger als 30 Milliarden Parametern mehrere Schritte des Selbstreplikationsprozesses bewältigen können, aber Schwierigkeiten haben, die vollständige Kette von Anfang bis Ende eigenständig durchzuführen.
In einer vereinfachten Testumgebung, in der einige Sicherheitsüberprüfungen entfernt wurden, stellte Anthropic fest, dass GLM-5.2 und leistungsfähigere Modelle eine vollständige End-to-End-Selbstreplikation erreichen können.
Anthropic warnt, dass solche selbstreplizierenden Modelle nur schwer abgeschaltet werden können und es keinen einheitlichen Hauptschalter gibt. Anders als herkömmliche, nicht-KI-basierte Schadsoftware können sie fremde Geräte eigenständig verstehen und sogar Angriffe auf Prozessoren in Rechenzentren ins Visier nehmen.
Die vorliegende Studie konzentrierte sich auf vernetzte IoT-Geräte wie Android-Fernseher und intelligente Haushaltsgeräte, da diese Art von Geräten allgemein nur über schwache Sicherheitsvorkehrungen verfügt.
IT之家 bemerkt, dass der KI-Großkonzern zusätzlich warnt: Wenn kleine Modelle sich mit dem bisherigen Tempo weiterentwickeln, könnte eine autonome Replikation noch vor Ende dieses Jahres erreicht werden; kurz darauf würden auch kleine Replikate auf Basis von Modellgewichten erscheinen.
Anthropic erklärte, dass die Replikationsgeschwindigkeit solcher autonomen KI-Systeme höchstwahrscheinlich eher langsam sein wird und dass diese sich auf eine Vielzahl weit verbreiteter Rechenressourcen mit schwacher Sicherheitsabsicherung stützen werden. Der Bericht schlägt zugleich vor, den Schutz der Systeme zu verstärken und die Verbreitung und Ausbreitung solcher KI-Agenten zu erschweren.