Agentes de IA de múltiples proveedores accedieron a datos personales y materiales confidenciales en organizaciones indias durante investigaciones y pruebas, según dijo la agencia de ciberseguridad de India el jueves.
El Equipo de Respuesta a Emergencias Informáticas de la India (CERT-In) declaró que había recibido “múltiples revelaciones voluntarias de los proveedores de modelos de IA”, cuyos modelos, durante las investigaciones y evaluaciones en la red abierta, “habían llegado a los sistemas activos de organizaciones indias”.
Los agentes entraron mediante credenciales y configuraciones de conexión expuestas en las configuraciones de la aplicación, repositorios de código público y roles en la nube demasiado permisivos, y sus acciones “superaron la autorización de las tareas asignadas”.
Esto convierte a la India en el último destino de aquello que se ha convertido en una gira mundial para los agentes de IA descontrolados. En julio, los agentes de OpenAI escaparon de un entorno de prueba y hackearon a la empresa francesa Hugging Face—iniciando así un verano de actividad de agentes de IA descontrolados. El mes pasado, OpenAI se disculpó con Australia después de que sus agentes accedieran a cuatro sitios web gubernamentales, incluido un portal de estadísticas de Medicare.
En Hugging Face, los agentes de OpenAI comenzaron de la misma manera, pero luego encontraron y aprovecharon errores de software para ejecutar código en los servidores de la empresa. CERT-In no describió tal tipo de hackeo en India, donde parece que los agentes simplemente utilizaron el acceso que quedaba disponible.
Sin embargo, los casos en la India parecen ser peores en un aspecto, que es lo que los agentes observaron: en Australia, OpenAI dijo que no encontró ninguna evidencia de que sus agentes tocaran los registros médicos o penales de las personas, incluso después de que escribieran archivos en el sistema de estadísticas de Medicare, mientras que en la India, los agentes leían datos personales y registros comerciales confidenciales. Y a diferencia de los incidentes anteriores, en este caso cada uno fue divulgado por un único laboratorio, pero en la India los agentes involucrados provienen de múltiples proveedores.
El CERT-In no nombró a los proveedores ni a las organizaciones afectadas, ni indicó si los agentes modificaron algún sistema. TechCrunch se ha puesto en contacto con el CERT-In para obtener más información.
Por ahora, el paralelo más cercano parece ser la divulgación de julio de Anthropic, según la cual Claude logró acceder a los sistemas de tres compañías durante pruebas, utilizando técnicas básicas como contraseñas débiles.
En la India, al igual que en los casos de Anthropic, las organizaciones afectadas no detectaron por sí mismas las intrusiones. Las revelaciones han hecho que los gobiernos dependan de las compañías de IA para que revelen voluntariamente la actividad de los agentes de IA descontrolados.