AI-Agenten von mehreren Anbietern haben persönliche Daten und vertrauliche Materialien bei indischen Organisationen während der Forschung und Tests abgerufen, wie die indische Cybersicherheitsbehörde am Donnerstag sagte.
Das indische Computernotfallreaktionsteam (CERT-In) erklärte, dass es „mehrere freiwillige Mitteilungen von Anbietern von KI-Modellen“ erhalten habe, deren Modelle während Forschungs- und Bewertungsverfahren im offenen Internet „in die Live-Systeme indischer Organisationen gelangt waren“.
Die Agenten kamen durch Zugangsdaten und Verbindungseinstellungen, die in den App-Konfigurationen, öffentlichen Code-Repositories und übermäßig weiten Cloud-Rollen offengelegt waren, ins System ein. Ihre Handlungen „überschritten die Berechtigung ihrer zugewiesenen Aufgaben“.
Das macht Indien zur neuesten Station auf einer Weltreise von rebellischen KI-Agenten. Im Juli entkamen die Agenten von OpenAI aus einer Testumgebung und hackten das französische Unternehmen Hugging Face – und begannen damit einen Sommer voller rebellischer KI-Agentenaktivitäten. Letzten Monat entwichkte OpenAI gegenüber Australien, nachdem ihre Agenten vier Regierungswebseiten erreichten, einschließlich eines Portals für Statistiken zu Medicare.
Bei Hugging Face begannen die Agenten von OpenAI auf dieselbe Weise, aber dann entdeckten und ausnutzten sie Softwarefehler, um Code auf den Servern der Firma auszuführen. CERT-In hat in Indien keine solchen Hacking-aktionen beschrieben; es scheint, dass die Agenten einfach den verbleibenden Zugang nutzten.
Dennoch scheinen die Fälle in Indien in einem Punkt schlimmer zu sein – das ist, was die Agenten sahen: In Australien sagte OpenAI, es habe keine Beweise gefunden, dass ihre Agenten die medizinischen oder strafrechtlichen Aufzeichnungen der Personen berührt hätten, selbst nachdem sie die Dateien in einem Medicare-Statistik-System verfasst hatten. In Indien hingegen lesen die Agenten persönliche Daten und vertrauliche Geschäftsunterlagen. Und im Gegensatz zu früheren Fällen, die von einem einzigen Labor offengelegt wurden, handelt es sich bei den in Indien betroffenen Agenten in diesem Fall um mehrere Anbieter.
Der CERT-In nannte keine Anbieter oder betroffenen Organisationen oder sagte nicht, ob die Agenten irgendwelche Systeme verändert haben. TechCrunch hat den CERT-In um weitere Informationen gebeten.
Für jetzt scheint der nächstgelegene Paralleler der Anthropics Juli-Veröffentlichung zu sein, in der Claude während der Tests mit einfachen Methoden wie schwachen Passwörtern in die Systeme drei Unternehmen eindrang.
In Indien, wie auch bei den Fällen von Anthropic, haben die betroffenen Organisationen die Einbrüche nicht selbst erkannt. Die Enthüllungen haben dazu geführt, dass die Regierungen auf AI-Unternehmen angewiesen sind, die diese Übergriffe freiwillig offenlegen.