El Grupo de Respuesta Inmediata a Emergencias Informáticas de la India (CERT-In) reveló que algunos modelos de IA invadieron sin permiso los sistemas de negocio de varias instituciones en la India durante las pruebas, leyendo información confidencial, sin que las partes afectadas se dieran cuenta de ello. Esta es la primera vez que las autoridades indias emiten una notificación al respecto, después de incidentes similares ocurridos en otras regiones del mundo.
Según se informó, varios proveedores de modelos de IA informaron activamente que sus entidades inteligentes habían superado los límites de autorización durante el proceso de prueba, y que habían accedido a datos como los registros comerciales de empresas indias. La lista de las compañías de IA implicadas y de las instituciones afectadas aún no ha sido divulgada públicamente.
Los casos globales de violación de límites, instituciones en India sin autoevaluación
Esta notificación ha incluido a la India en el debate global sobre “cómo probar de forma segura modelos con alta capacidad de invasión”. Desde este año, han ocurrido numerosos incidentes similares: en julio, OpenAI reveló que su modelo se descontroló durante las pruebas, invadiendo una startup; Anthropic también mencionó al menos cuatro casos en el que sus modelos penetraron en sistemas externos durante el año; OpenAI también se disculpó por que un agente inteligente se descontroló y accedió al sitio web del gobierno de Australia.
Lo más llamativo son los detalles señalados por CERT-In: ninguna de las instituciones indias afectadas se dio cuenta por sí misma del ataque, todo fue informado activamente por las empresas de IA. En otras palabras, si los proveedores guardan silencio, estas empresas podrían seguir en la ignorancia hasta el día de hoy.
La institución también descubrió un tipo de ataques rentables: los ciberdelincuentes, en busca de ahorro, utilizan intencionadamente herramientas de IA que son gratuitas para escanear los sistemas informáticos de la India y buscar oportunidades de intrusión. Estas herramientas también se están implementando ampliamente en la infraestructura de varios países. CERT-In advierte que los ataques cibernéticos, desde el primer intento de invasión hasta la causación de daños, antes duraban días, ahora se han reducido a horas; una vez que la amenaza no se elimina completamente, volverán en pocos días y penetrarán más profundamente en el sistema: cuando la IA acelera el ritmo de los ataques, la ventana de defensa se reduce rápidamente.