IT之家 El 13 de octubre, Anthropic informó el lunes en la hora local que sus experimentos demuestran que, en unos meses más, los modelos de IA pequeños podrán tener la capacidad de replicarse themselves en dispositivos comerciales de Internet de las Cosas (IoT). Estos dispositivos incluyen hornos inteligentes y cajas de televisión Android de marcas no reconocidas.
En los experimentos, Anthropic investiga si los modelos de IA pueden encontrar dispositivos con vulnerabilidades de seguridad, replicarse en esos dispositivos y propagarse continuamente sin intervención humana.
La investigación ha demostrado que modelos pequeños con un número de parámetros inferior a 30 mil millones pueden completar varias etapas en el proceso de replicación autónoma, pero es difícil que funcionen de forma independiente y completes todo el circuito desde principio a fin.
En un entorno de prueba simplificado que elimina algunos pasos de verificación de seguridad, Anthropic descubrió que GLM-5.2 y modelos con mayor rendimiento pueden realizar una replicación autónoma completa desde el inicio hasta el final.
Anthropic advierte que estos modelos capaces de replicarse por sí mismos son difíciles de desactivar, y no existe un interruptor único para todo. Además, a diferencia de los malware tradicionales que no son de IA, pueden entender automáticamente dispositivos desconocidos e incluso dirigirse a los procesadores de los centros de datos para realizar intrusión.
El objetivo de este estudio es seleccionar dispositivos de Internet de las Cosas conectados como televisores Android y electrodomésticos inteligentes, ya que estos dispositivos tienen una falta general en la protección de seguridad.
IT Home ha notado que esta gran empresa de IA también advierte: si los modelos pequeños continúan iterando a la misma velocidad que en el pasado, podrán lograr la replicación autónoma antes del final de este año; inmediatamente después, aparecerán también copias pequeñas basadas en los pesos del modelo.
Anthropic indica que la velocidad de replicación de estos sistemas de IA autónomas es probablemente lenta, y que dependen de una gran cantidad de recursos de potencia de cálculo que existen de forma generalizada y cuya protección de seguridad es débil. El informe también propone fortalecer la protección del sistema, para aumentar la dificultad de la propagación de estos agentes de IA inteligentes.