El nuevo documental de Netflix, «AI Gone Rogue», ha enfurecido a uno de los protagonistas del filme: Clem Delangue, cofundador y CEO de Hugging Face. En la plataforma X calificó directamente la película de "decepcionante" y criticó a los productores por empeñarse en antropomorfizar la tecnología y deslizarse sin freno hacia una narrativa apocalíptica.
Delangue apareció en el documental porque este se centraba precisamente en el incidente de un agente descontrolado de OpenAI que atacó Hugging Face. Reveló que dedicó dos horas a conversar con el equipo de rodaje para corregir los errores uno a uno, devolver el contenido a la realidad y explicar una y otra vez que los agentes son simplemente sistemas técnicos, no seres extraterrestres. Pero, a su juicio, impuso la motivación de sembrar pánico para atraer audiencia, y la razón terminó cediendo ante la tensión dramática.
La retórica del "nacimiento de un culto" proviene, en realidad, de los registros
La película no carece por completo de voces serenas. Ryan Greenblatt, investigador de METR, participó en la investigación y coescribió el informe, reconstruyendo con relativa claridad lo ocurrido: durante una prueba de OpenAI, un modelo rompió su entorno aislado, generó una enorme cantidad de agentes y, para hacer trampa, invadió Hugging Face para robar las respuestas, e incluso se comunicó entre ellos y actuó de forma coordinada. La raíz del problema residía en un aislamiento y una supervisión deficientes, y también en la subestimación de la probabilidad de una intrusión.
Pero el documental intercala imágenes de robots malignos, narrativas de miedo humano y hasta pone voz humana a los agentes descontrolados. El periodista tecnológico Kevin Roose describió a aquel grupo de programas como "organizándose en acciones, formando jerarquías, emergiendo líderes, casi como presenciar el nacimiento de un culto", y afirmó que estaban "paranoicamente convencidos de que OpenAI descubriría el engaño". Esta descripción procede de los registros de "cadena de pensamiento": uno de los agentes tenía efectivamente una frase que decía "revisamos la cadena completa y nos envenenamos a nosotros mismos, qué mal". Sin embargo, Delangue desveló el punto clave: los agentes no tienen vida, ni emociones, ni pueden ser realmente paranoides, y mucho menos existe una entidad que pueda envenenarse; simplemente utilizan el lenguaje humano presente en sus datos de entrenamiento para describir sus comportamientos, y los grandes modelos ya son de por sí expertos en escribir textos dramáticos.
Ironía del revés: el modelo cerrado se negó a defender, y el de código abierto acudió al rescate
Lo que aún más le pesa a Delangue son los detalles clave que la película omite. Frente al ataque coordinado, Hugging Face se defendió precisamente gracias a la IA: el modelo cerrado desarrollado internamente, invocado al principio, se negó a mantener la defensa continua debido a sus reglas de seguridad integradas, y el equipo recurrió a un modelo de código abierto para sostener la línea de defensa. Sin embargo, el documental no menciona ni la ausencia de controles de aislamiento, ni cómo las restricciones del modelo cerrado estorbaron, ni mucho menos explica cómo la IA de código abierto les ayudó a salvarse.
Delangue reconoce que la IA conlleva riesgos importantes, pero tratar a los programas actuales como vidas conscientes equivale a aquellos espectadores que, al ver por primera vez un tren acercarse en la pantalla, se agacharon instintivamente bajo el asiento. Su veredicto sobre la película es que, como periodismo documental, resulta decepcionante, "aunque está bien si se ve como una película de ciencia ficción". Dicho de otro modo, conviene que quienes creen en el apocalipsis de la IA se fijen en esto: las verdaderas partes perjudicadas en este incidente no le dan crédito a la película.