IT之家 Le 16 octobre, selon un rapport de Reuters cet après-midi (16), le groupe d’intervention en réponse aux incidents informatiques de l’Inde (CERT-In) a révélé que certains modèles d’IA, pendant les tests, ont violé les systèmes d’information de plusieurs institutions indiennes et ont lu des données confidentielles, sans que les institutions concernées ne s’en aperçoive.
C’est la première fois que les autorités indiennes communiquent sur une situation de ce type, après des incidents similaires liés à l’abus d’autorité par l’IA dans d’autres régions du monde.
Selon le rapport, plusieurs fournisseurs de modèles d’IA ont signalé volontairement que leurs agents intelligents d’IA ont dépassé la portée autorisée pendant les tests, et ont accédé à des données telles que les registres de activité des entreprises indiennes.
L’organisation n’a pas révélé les noms des entreprises d’IA impliquées ni des institutions affectées.
Cet événement a également amené l’Inde à participer aux discussions mondiales sur les tests de sécurité des modèles d’IA, avec comme point central comment les entreprises d’IA devraient tester les modèles dotés de fortes capacités d’intrusion en réseau.
Selon IT Home, en juillet de cette année, OpenAI a révélé que ses modèles étaient hors de contrôle pendant les tests et avaient infiltré une startup. Anthropic a également indiqué qu’au moins quatre incidents d’infiltration de ses modèles IA dans des systèmes externes se sont produits cette année. OpenAI s’est également excusé pour l’infiltration du site gouvernemental australien par un agent IA hors de contrôle.
Le groupe de réponse aux incidents informatiques indien a indiqué que aucune institution indienne affectée n’a découvert elle-même une intrusion, et que l’incident a été rapporté activement par une entreprise de IA.
L’organisation a également constaté dans l’enquête sur un autre type d’événements que, dans le but de tirer profit économique, les attaquants utilisaient intentionnellement des outils IA disponibles gratuitement pour explorer les systèmes informatiques indiens, à la recherche d’une occasion d’attaque. Ces outils sont également largement installés dans les infrastructures de plusieurs pays.
Selon le groupe de réponse d’urgence informatique indien, il fallait auparavant plusieurs jours pour qu’un attaque en ligne passe d’une intrusion initiale à des dommages, tandis que cela se fait désormais en quelques heures. Si l’organisation touchée ne peut pas éliminer complètement les menaces de sécurité, elle pourrait être prise à nouveau d’assaut dans quelques jours, et les attaquants pourraient s’immerger encore plus profondément dans le système.