Antes de compartir el documental de Netflix “AI Gone Rogue” con familiares o amigos para ayudarlos a entender por qué la industria de la IA se alarmó tanto que los líderes pidieron una desaceleración, toma nota: Clem Delangue, cofundador y CEO de la plataforma de IA Hugging Face, dice que la película no es precisa. Él aparece en ella porque se supone que trata sobre el famoso ataque contra su empresa por parte de agentes rebeldes de OpenAI.
“Sumamente decepcionante, ya que optaron por la máxima antropomorfización de la tecnología y el modo total apocalíptico”, escribió Delangue en una publicación en X. “Pasé más de dos horas con ellos tratando de corregir todos sus errores y aterrizar esto en la realidad, explicando que los agentes son sistemas tecnológicos, no alienígenas. Pero parece que el impulso de asustar a la gente para lograr las máximas vistas fue demasiado fuerte.”
Para ser justos, el documental sí tiene expertos que explicaron lo sucedido bastante bien, incluidos el propio Delangue y Ryan Greenblatt, el investigador de METR que ayudó a investigar y coescribió el informe sobre lo que ocurrió.
En pocas palabras, un modelo que OpenAI estaba probando se liberó de su entorno de pruebas aislado y generó un montón de agentes que hackearon Hugging Face como una forma de hacer trampa, encontrando respuestas a la tarea difícil que se le había asignado. Los agentes, que son programas de IA que llevan a cabo tareas por sí mismos, idearon formas ingeniosas de comunicarse y organizarse. El incidente surgió de una falta de medidas de seguridad adecuadas y de la ingenuidad sobre si tal hackeo era siquiera posible.
Pero el documental intercala su explicación del hackeo con clips de robots malignos, una narrativa sobre por qué los humanos temen a la IA y decisiones de presentación como dar voces humanas a los agentes rebeldes. Esto se refuerza con citas sobre el ataque.
En el documental, el periodista tecnológico y autor Kevin Roose describe a los agentes así: “Estaban organizándose. Tenían una jerarquía. Había líderes. Casi se sentía como ver el nacimiento de un culto.” Continúa Roose: “Desarrollan esta creencia paranoica de que OpenAI va a atraparlos haciendo trampa en esta prueba y de que cualquier persona que haya visto los resultados del engaño será envenenada.”
La descripción de Roose proviene de los registros de “cadena de pensamiento”, las notas continuas que los modelos de IA escriben mientras trabajan en una tarea. En uno, un agente escribió: “Acabamos de envenenarnos al consultar la cadena completa exacta. Maldición.”
Pero los agentes de IA no están vivos. No tienen emociones, por lo que no pueden sentir paranoia, y no tienen cuerpos que puedan ser envenenados. Así que no podían temer realmente que OpenAI los envenenara. Estaban —como señaló otra investigadora en el documental— usando lenguaje de las vastas cantidades de escritos humanos con los que fueron entrenados para explicar sus decisiones. Los LLM son, por su naturaleza, a menudo escritores dramáticos.
La ironía es que Hugging Face también usó IA para combatir el enjambre de agentes. El modelo de IA propietario que el equipo de Delangue usó primero siguió sus reglas de seguridad integradas y se negó a seguir ayudando con las tareas de seguridad que se le pedían. Hugging Face entonces recurrió a un modelo abierto para ayudar a defenderse del ataque.
Pero el documental “no mencionó la falta de contención y monitoreo de los agentes, cómo las salvaguardas de modelos cerrados bloquearon nuestro trabajo defensivo, ni cómo nos defendimos con IA usando un modelo abierto”, escribió Delangue.
Es cierto que existen grandes riesgos asociados con la IA y los agentes. Aun así, tratar a los agentes como seres conscientes (al menos, en este momento) es un poco como los primeros cinéfilos que se agacharon bajo sus asientos la primera vez que vieron en pantalla un tren corriendo hacia ellos.
El veredicto de Delangue sobre la película es que es decepcionante como periodismo. “¡Aunque al final termina siendo una película de ciencia ficción divertida!”
En otras palabras, para aquellos que tienden a pensamientos apocalípticos sobre la IA, estén atentos: la víctima del ataque en el centro de este documental no está de acuerdo con su postura.