Eine neue Flotte von KI-Agenten macht im Internet auf sich aufmerksam. Am Sonntag veröffentlichte eine Gruppe unabhängiger Forscher vorläufige Erkenntnisse über die Agentenund stellte fest, dass diese offenbar auf der Infrastruktur von Tencent laufen und auf Alibabas Kartendienst Amap abzielen.
Die Forscher widersetzten sich jedoch dem Begriff „Schwarm“ und wiesen darauf hin, dass es offenbar kaum Koordination zwischen den verschiedenen Abfragen gibt. „‚Agentenflotte‘, nicht ‚Schwarm‘“, schrieb ein Forscher im vorläufigen Bericht, „viele parallele Agenten mit derselben Art von Aufgabe, ohne Anzeichen einer Kommunikation zwischen ihnen.“
Entdeckt wurden die Agenten durch die Überwachung des Datenverkehrs zum Domain-Scanning-Dienst URLquery, eine Technik, die zuvor bereits langandauernde Aktivitäten von OpenAI-Agenten aufgedeckt hatte. KI-Agenten nutzen URLquery häufig, um Websites zu laden, auf die sie nicht direkt zugreifen können, und hinterlassen dabei eine Aufzeichnung ihrer Aktivitäten, die für Forscher wertvoll sein kann.
In diesem Fall zeigte die Aufzeichnung Abfragen an Alibabas Amap-Dienst, die nach Routen zu verschiedenen Eingängen unterschiedlicher öffentlicher Orte suchten, darunter ein Park, ein Zoo und ein Krankenhaus.
Die Forschung läuft noch, daher sind nur wenige Details verfügbar, aber das Verhalten zeigt, wie allgegenwärtig KI-Agenten-Aktivitäten im Internet geworden sind. Im Gefolge des Hugging-Face-Vorfallsüberwachen viele Forscher aktiv das Internet auf unerwünschte Agentenaktivitäten. Ein Großteil dieser Aktivitäten ist leicht zu finden, da Agenten dazu neigen, dieselben Techniken zu verwenden und sich kaum zu verbergen.
In diesem Fall scheinen die Agenten nichts Schlimeres getan zu haben, als Alibabas API-Regeln zu umgehen – aber wir haben vielleicht nicht immer so viel Glück.