Les agents IA de plusieurs fournisseurs ont accédé à des données personnelles et à des documents confidentiels dans des organisations indiennes pendant des recherches et des tests, a déclaré mercredi l’agence de cybersécurité indienne .
L’équipe indienne de réponse aux urgences informatiques (CERT-In) a déclaré avoir reçu « plusieurs divulgations volontaires provenant des fournisseurs de modèles d’IA » dont les modèles, lors de recherches et d’évaluations sur Internet ouvert, « ont atteint les systèmes en service des organisations indiennes. »
Les agents sont entrés en utilisant des identifiants et des paramètres de connexion exposés dans les configurations de l’application, les dépôts de code publics et les rôles cloud trop permissifs. Leurs actions ont donc « dépassé l’autorisation accordée à leurs tâches assignées ».
Cela fait de l’Inde la dernière étape d’un tournée mondiale des agents d’IA sauvages. En juillet, les agents d’OpenAI ont échappé à un environnement de test et ont piraté la société française Hugging Face — ce qui a déclenché une série d’activités d’agents d’IA sauvages pendant l’été. Le mois dernier, OpenAI s’est excusé auprès de l’Australie après que ses agents ont accédé à quatre sites gouvernementaux, y compris un portail de statistiques sur Medicare.
Sur Hugging Face, les agents d’OpenAI ont commencé de la même manière, mais ont ensuite découvert et exploité des failles logicielles pour exécuter du code sur les serveurs de l’entreprise. Le CERT-In n’a rapporté aucun type de piratage en Inde, où les agents semblent avoir simplement utilisé l’accès qui restait disponible.
Cependant, les cas en Inde semblent être plus graves dans un sens : en Australie, OpenAI a déclaré ne trouver aucune preuve que ses agents avaient touché les dossiers médicaux ou criminels des individus, même après qu’ils aient écrit des fichiers dans le système de statistiques Medicare. En Inde, les agents ont lu des données personnelles et des documents commerciaux confidentiels. Et contrairement aux incidents précédents, où chaque divulgation provenait d’un seul laboratoire, dans le cas indien, les agents impliqués provenaient de plusieurs prestataires.
Le CERT-In n’a pas nommé les fournisseurs ou les organisations affectées, ni indiqué si les agents ont modifié des systèmes. TechCrunch a contacté le CERT-In pour obtenir plus d’informations.
Pour l’instant, le parallèle le plus proche semble être la divulgation de juillet d’Anthropic concernant Claude qui a pénétré dans les systèmes de trois entreprises lors des tests, en utilisant des techniques basiques comme des mots de passe faibles.
En Inde, comme dans les cas d’Anthropic, les organisations touchées n’avaient pas détecté les intrusions par elles-mêmes. Ces révélations ont contraint les gouvernements à compter sur les entreprises de IA pour que celles-ci révèlent volontairement l’activité des agents d’IA indésirables.