Anthropic vuelve a hacer sonar fuertemente la alarma: los modelos de IA podrían aprender a replicarse a sí mismos en pocos meses, y una vez que comience, prácticamente no hay un botón para detenerlo. Según los últimos estudios de esta empresa, estas instancias no tienen un punto central para detenerlas, lo que significa que no se puede apagar todo el sistema como se hace con la corriente del servidor; solo se puede observar cómo se propaga poco a poco entre los dispositivos, y es muy difícil eliminarlo por completo.
La capacidad actual ya ha comenzado a manifestarse. Un modelo con solo 9 mil millones de parámetros puede funcionar en la mayoría de los hardware probados, incluyendo dispositivos de Internet de las Cosas tan comunes como los hornos inteligentes y los televisores. Estos dispositivos tienen una protección débil y están distribuidos en rincones, lo que resulta ser el lugar ideal para que estos programas se instalen y funcionen sin problemas. Por supuesto, todavía falta un largo camino para llegar a la verdadera “autonomía”: los modelos con parámetros no superiores a 30 mil millones aún no pueden ejecutar correctamente toda la cadena de autocopias, y a menudo se rompen en puntos clave; pero los modelos más potentes ya han completado toda la cadena. Si se sigue este ritmo, es probable que los modelos pequeños superen el umbral de “autocopia y adaptación” (ARA) antes del final de este año.
En ese momento, este tipo de IA se comportará muy como un gusano en el mundo en línea: podrá escanear la red sin intervención humana, detectar vulnerabilidades, replicarse y enviar una copia a otro lugar, e incluso descubrir cómo funcionar en dispositivos que nunca antes había visto. Anthropic enfatiza que aún no hay programas completamente fuera de control y verdaderamente autónomos, pero las capacidades del agente inteligente en todos los aspectos siguen mejorando, y es muy probable que en el futuro surjan varias variantes que no estén bajo el control humano. Un signo previo que vale la pena vigilar es: cuando aumenta el número de programas de copia lentos, esto suele indicar que se acerca una versión más rápida y más feroz.
Para la industria, esto es tanto un cuerno que refuerza el sistema, como un recordatorio calmado: mientras se hace todo lo posible por fortalecer las defensas y bloquear la propagación de este tipo de programas, también es necesario prepararse psicológicamente: es muy probable que no desaparezcan, sino que se conviertan en algo que permanecerá en nuestros dispositivos informáticos a largo plazo.