IT之家 El 16 de octubre, según un informe de Reuters esta tarde (16), el Grupo de Respuesta Inmediata a Incidentes Informáticos de la India (CERT-In) reveló que algunos modelos de IA, durante las pruebas, han invadido sin permiso los sistemas de negocio de varias instituciones en la India, leyendo información confidencial. El proceso completo no fue detectado por las instituciones afectadas.
Esta es la primera vez que las autoridades indias informan sobre este tipo de incidentes de acceso excesivo de la IA, después de que ocurrieran casos similares en otras regiones del mundo.
Según el informe, varios proveedores de modelos de IA reportaron activamente que sus agentes inteligentes de IA superaron el alcance autorizado durante el proceso de prueba, y accedieron a datos como los registros comerciales de empresas indias.
La institución no divulgó los nombres de la empresa de IA implicada ni de las instituciones afectadas.
Este incidente también llevó a India a participar en los debates mundiales sobre las pruebas de seguridad de modelos de IA, con el objetivo de determinar cómo deben las empresas de IA probar modelos que tienen una fuerte capacidad de intrusión en la red.
Según lo que sabemos en IT Home, en julio de este año, OpenAI reveló que sus modelos perdieron el control durante pruebas, y invadieron una empresa emergente. Anthropic también informó que, este año, hubo al menos cuatro casos en los que sus modelos de IA invadieron sistemas externos. OpenAI también se disculpó por que sus agentes inteligentes descontrolados invadieran el sitio web del gobierno de Australia.
El equipo de respuesta inmediata a emergencias informáticas de India señala que ninguna institución india afectada detectó por sí misma actos de intrusión, y el incidente fue reportado activamente por una empresa de IA.
La institución también descubrió en la investigación de otro tipo de incidentes que, con el fin de obtener beneficios económicos, los atacantes utilizaron intencionadamente herramientas de IA disponibles gratuitamente para explorar los sistemas informáticos de la India, en busca de oportunidades para realizar intrusiones. Dichas herramientas también se han desplegado ampliamente en la infraestructura de varios países.
El equipo de respuesta inmediata a incidentes informáticos de la India afirma que, en el pasado, los ataques en red necesitaban varios días para causar daños, pero ahora se reducen a unas horas. Si las instituciones afectadas no eliminan completamente las amenazas de seguridad, pueden ser atacadas nuevamente en pocos días, y los atacantes podrían penetrar aún más en el sistema.