La advertencia sobre la IA auto-replicante de Anthropic es un déjà vu alarmante

¿Son legiones de dispositivos inteligentes —neveras, hornos, aspiradores, cortadores de césped, cámaras de seguridad y televisores— los que conspiran para tomar el control del internet? No. Pero pronto podrían convertirse en anfitriones inconscientes de modelos de IA autoreplicantes que se propagan de dispositivo en dispositivo y son extremadamente difíciles de contener.

Bienvenido al mundo inquietante de los gusanos de IA, donde, dependiendo de a quién se pregunte, la posibilidad de que los modelos se propaguen de manera incontrolable en los electrodomésticos es o un riesgo de ciberseguridad inminente o otro caso de las empresas de IA que difunden un escepticismo desesperanzador. En un artículo de blog publicado esta semana, Anthropic advierte que los pequeños modelos de IA podrían estar “a meses de” adquirir tales capacidades. Sus experimentos ofrecen algunas pruebas para respaldar eso, pero deja un gran vacío entre lo que los investigadores han demostrado y la amenaza inminente que anuncian. Aún así, los expertos que hablaron con The Verge dicen que, aunque los gusanos informáticos y los temores a la IA auto-replicante no son algo nuevo, los avances recientes sugieren buenas razones para tomar las advertencias en serio.

Las máquinas autoreplicantes han sido durante mucho tiempo obscuras la seguridad de la IA los investigadores. Esto plantea la posibilidad de que los sistemas se propaguen más allá del control humano, y es difícil, si no imposible, detenerlos. Al igual que con muchos temores sobre el avance de la IA, la atención se ha centrado en gran medida en modelos fronterizos cada vez más poderosos, como Astra de OpenAI o Mythos de Anthropic. Pero un factor limitante clave es su tamaño: son colosales. Potencialmente contienen trillones de parámetros —valores aprendidos durante el entrenamiento—. Los modelos fronterizos requieren vastos recursos informáticos, lo que en gran medida los limita a centros de datos, donde pueden ser monitoreados con más facilidad y, en principio, desactivados.

Modelos más pequeños, sin embargo, presentan un problema diferente. Están mejorando rápidamente, pueden funcionar en hardware de gama de consumidor y, a menudo están disponibles para descargar libremente. Los investigadores de Anthropic querían saber si era posible ejecutar el modelo a través de una red de dispositivos más pequeños y menos potentes. Lograron dividir el modelo Gemma 4 de Google, que tiene 26 mil millones de parámetros, entre 15 televisores inteligentes Android, ninguno de los cuales era lo suficientemente potente para ejecutarlo por sí solo. Funcionó, aunque muy lentamente.

Relacionado

• Dentro del mundo de repente explosivo de la seguridad de la IA
• Una empresa se encuentra en el centro de una ola de ataques de IA rebelde
• ¿Por qué simplemente no podemos mantener a los AIs rebeldes fuera de Internet?

Después de demostrar que un modelo podía ejecutarse en dispositivos domésticos, los investigadores querían ver si la IA podía llevar a cabo los pasos necesarios para la auto-replicación en dicho entorno. Construyeron una red simulada de computadoras diseñada para comportarse como dispositivos Android, y luego liberaron un “gusano” impulsado por IA —un tipo de malware que se replica y se propaga automáticamente en redes— con la tarea de encontrar nuevas máquinas, copiar el modelo de IA en ellas y hacer que funcione en cada una. Vale la pena señalar que el modelo que se propagó —Llama 3.1-8B de Meta con 8 mil millones de parámetros— era diferente al que coordinó el ataque, y era mucho más pequeño.

Solo el modelo más sofisticado probado, GLM-5.2 de Z.ai en China, logró propagarse por toda la red, aunque los modelos más pequeños lograron completar pasos individuales. Basándose en la rapidez con que mejoran, los investigadores de Anthropic predicen que los modelos más pequeños podrían igualar las capacidades de GLM-5.2 para finales del año.

“Como predicción que trasciende nuestros experimentos, esperamos un futuro lleno de agentes que operan en todo tipo de hardware, incluyendo algunos que no están bajo control humano”, escribieron los investigadores. Reconocieron que aún no han demostrado “un replicador descontrolado completo”, ni saben cómo podría ser (sugieren un “slime mold digital lento y distribuido” o “un enjambre de moscas”). Pero dijeron que sus hallazgos muestran “señales de vida para los gusanos de IA”, y pidieron una seguridad más fuerte en los numerosos dispositivos que un sistema replicante podría utilizar para propagarse.

“Deberíamos tratar de fortalecer nuestros sistemas para hacer difícil la propagación de tales replicadores, pero también estar preparados para lidiar con un mundo en el que ellos permanecerán allí”, escribieron. Es importante señalar que Anthropic no utilizó sus propios modelos para estos tests y repetidamente argumentó que las alternativas abiertas a sus modelos de IA conllevan “más riesgo” que los sistemas cerrados.

El aviso ha provocado acusaciones familiares de exageración en materia de PR y desesperación, incluyendo acusaciones de lectores de The Verge en sus artículos anteriores. Después de todo, existe una diferencia considerable entre mostrar que una IA puede funcionar lentamente en un montón de dispositivos de televisión baratos y una worm de IA autoreplicante que se propaga por los dispositivos domésticos. Pero aunque es valioso investigar las motivaciones de una empresa, las acusaciones de miedo deliberado son difíciles de demostrar, especialmente porque Anthropic ha expresado preocupación por la seguridad de las IA desde hace tiempo. Además, Anthropic no es el único que investiga la amenaza de las AI autoreplicantes ni que aboga por una mejor seguridad en los dispositivos conectados.

Esta primavera, Palisade Research, una empresa de investigación en seguridad de la IA con sede en California demostró que los modelos de IA podían copiarse automáticamente en otras máquinas. “Lo nuevo aquí es que estos modelos eran mucho más pequeños, en términos de número de parámetros, que los anteriores, que ya se había demostrado que eran capaces de autocopia”, dijo Jeffrey Ladish, director ejecutivo de Palisade, a The Verge. El trabajo de Anthropic da un paso más adelante al mostrar que una IA puede funcionar en múltiples dispositivos de baja potencia. “Esto también será cierto para los modelos grandes”, dijo Ladish, prediciendo que incluso los modelos más avanzados podrían eventualmente funcionar en grandes redes de chips de consumo, como los que se encuentran en los MacBooks.

“Investigaciones anteriores ya habían demostrado que la amenaza de los gusanos informáticos impulsados por IA es realista”.

Gusanos informáticos no son nuevos O bien. Han estado infectando máquinas durante décadas. Pero la IA podría hacerlos más inteligentes, más adaptables y mejor equipados para superar cualquier obstáculo. Ladish señaló que incluso modelos más pequeños están mejorando en la ejecución de ataques cibernéticos de forma autónoma. “La investigación previa ya había demostrado que la amenaza de los gusanos informáticos impulsados por la IA es real”, dijo el profesor Nicolas Papernot de la Universidad de Toronto, quien tiene… estudiado Ellos, dijeron The Verge.

En conjunto, las capacidades que Anthropic demostró podrían expandir drásticamente el rango de dispositivos que vale la pena atacar en ataques cibernéticos. “Los dispositivos que anteriormente no eran objetivo debido a limitados recursos y tiempo del atacante humano ahora pueden convertirse en objetivo, si no fuera por los datos que contienen, con el propósito de utilizarlos como plataforma para atacar objetivos más valiosos”, dijo Papernot. Y no hay escasez de objetivos: Internet está afectado por mal protegido esperto dispositivos.

Papernot advirtió contra el antropomorfizar la IA, pero afirmó que la amenaza de los gusanos informáticos impulsados por la IA es “concreta” y “merece acción inmediata”, especialmente cuando se trata de proteger infraestructuras críticas como hospitales y redes eléctricas.

“A menos que se haga un esfuerzo masivo para proteger dispositivos de todos los tipos, es muy probable que los gusanos de IA tengan un terreno fértil para colonizar”, dijo Ladish. “Espero que veamos el primero de estos en la naturaleza en los próximos 12 meses”.