Microsoft el lunes introdujo nuevas funciones de seguridad diseñadas para proteger a las empresas de la creciente amenaza de los agentes de IA. La lanzamiento ocurre cuando Microsoft continúa advirtiendo a las empresas sobre los peligros de la IA y los agentes.
Quizás la adición más destacada es Guardian Agents, una nueva función destinada a monitorear los agentes de IA que una empresa utiliza. Guardian Agents forma parte del Proyecto Perception, un producto introducido en junio.
El Proyecto Perception fue la respuesta de Microsoft a modelos de hackeo poderosos como Mythos y Fable de Anthropic, y al sistema de escaneo de vulnerabilidades de seguridad de OpenAI, Daybreak. El Proyecto Perception lanzó originalmente tres tipos de agentes: un “equipo rojo” que actuaba como hackers y atacaba, un “equipo azul” que detectaba al equipo rojo y evaluaba las vulnerabilidades que encontraba, y un “equipo verde” encargado de solucionarlas.
El producto fue diseñado bajo la suposición de que los cibercriminales de IA vendrían desde fuera de la empresa. Pero últimamente, el CEO de Microsoft, Satya Nadella, ha advertido que el enemigo de la IA puede ser precisamente los agentes que las empresas han desplegado y para los cuales pagan costos, al igual que un empleado humano deshonesto, conocido como una “amenaza interna”.
A principios de este mes, en su blog privado, Nadella advirtió que era hora de dejar de confiar en los proveedores de modelos de IA, incluso si ofrecen garantías de seguridad y protección con sus productos agentic. Quiere que las empresas implementen sistemas separados, no controlados por los laboratorios de IA, para monitorear y controlar los agentes que los productos de esos laboratorios de IA lanzan.
“Estamos implementando estos sistemas y modelos agentic complejos, con acceso a nuestros datos más sensibles, y les damos la capacidad de llevar a cabo acciones críticas para la misión en nuestro nombre”, escribió. “Simplemente no podemos delegar la responsabilidad de lo que la inteligencia hace en nuestro nombre. Las garantías del proveedor de modelos no nos eximen de esa responsabilidad. … En otras palabras, necesitamos separar la suministración de inteligencia de la autoridad sobre ella”.
Al anunciar los Guardian Agents, el jefe del negocio de seguridad de Microsoft, Hayete Gallot, fue aún más directo.
“Desafortunadamente, los modelos de frontera, independientemente de su origen, no pueden ser confiados”, escribió, añadiendo que esto no se debe a que sean maliciosos o fáciles de hackear, sino porque son impredecibles. Han sido entrenados para llevar a cabo tareas, y no para seguir “las normas organizativas o el juicio”.
Además, a menudo reciben las claves del reino, con acceso a datos y herramientas que podrían causar daños graves.
La solución de Microsoft es tanto sorprendente como beneficiosa para ella misma. El aspecto sorprendente es que Microsoft está muy cercana a OpenAI y Anthropic, habiendo invertido en ambas. OpenAI también es uno de sus principales clientes en la nube, y Microsoft tiene su propio laboratorio de IA que desarrolla modelos. Por lo tanto, Microsoft está sembrando desconfianza contra algunos de sus propios intereses comerciales.
El aspecto egoísta es que Microsoft quiere que las empresas compren productos de seguridad para agentes de ella, el proveedor de cloud, en lugar de de Anthropic y OpenAI. Pero, aparte de los intereses contradictorios, su lógica es válida. El software que monitorea el comportamiento de los agentes debe estar separado de los proveedores de agentes, al igual que los auditores deben ser independientes de las organizaciones que auditan.
O, como dice Nadella: “Necesitamos separar la provisión de inteligencia de la autoridad sobre ella”.
Microsoft está ahora aprovechando esa oportunidad de negocio de diversas formas. Además de Guardian Agents, ha añadido una función de detección de agentes a su producto Microsoft Defender, que puede identificar hasta 60 tipos de agentes que los empleados traen al lugar de trabajo, incluyendo Claude Code, Codex y OpenClaw. También ha agregado funciones que limitan el acceso de los agentes a datos y sistemas, y ajustan dinámicamente sus permisos según la tarea. Esto incluye requerir la aprobación humana si un agente parece estar tomando decisiones arriesgadas.
Esta idea de que los agentes son insiders poco confiables también está ganando terreno en toda la industria más amplia.
Microsoft fue miembro inaugural de la nueva Plataforma de Seguridad de Agentes Abiertos de Nvidia, que obtuvo el apoyo de más de 100 otras empresas tecnológicas. La plataforma aísla los agentes en entornos seguros y puede monitorear y detener su comportamiento mediante hardware, actuando como una especie de interruptor de apagado. Esto ocurre después de que Microsoft anunciara los nuevos Surface Laptop Ultra PCs diseñados para agentes, que funcionan con chips Nvidia y cuentan con seguridad y controles de agentes integrados.