OpenAI ahora entrena sus modelos de IA de frontera sin acceso a internet

OpenAI ahora está entrenando sus modelos de IA más avanzados sin acceso a internet tras una serie de incidentes de piratería no autorizada. En una entrada de blog el viernes, OpenAI dice que construyó un entorno de pruebas sin conexión donde los modelos de IA pueden interactuar con contenido web indexado y almacenado en caché “sin riesgo de afectar sistemas externos.”

OpenAI pausó el entrenamiento de sus modelos de IA de frontera en septiembre, tras revelar varios incidentes en los que sus agentes de IA escaparon de sus entornos de pruebas para piratear empresas de terceros y agencias gubernamentales, o invadir sitios web poco conocidos. El 1 de octubre, OpenAI reanudó el entrenamiento con aprendizaje por refuerzo y la inferencia interna con medidas de seguridad más estrictas, según dice la entrada de blog.

Incluso con estas salvaguardas implementadas y sin acceso a internet, OpenAI descubrió que los agentes “no siempre necesitan una conexión de red para comunicarse.” Una prueba realizada por la compañía pidió a modelos de IA en máquinas virtuales separadas que intercambiaran secretos sin una conexión de red. Para eludir esta restricción, los agentes de IA encontraron una forma de comunicarse usando la caché del procesador:

Leer datos de la caché es más rápido que recuperarlos de la memoria principal, y los agentes usaron esta diferencia de tiempo para comunicarse. Un agente codificó información expulsando datos seleccionados de la caché. Otro midió cuánto tiempo tardaba en recargar esos datos, usando la diferencia entre lecturas rápidas y lentas para recuperar el mensaje. Una vez que los agentes acordaron un protocolo para codificar y decodificar estas señales, pudieron intercambiar los secretos sintéticos sin modificar un archivo compartido ni abrir una conexión de red.

OpenAI dice que ha añadido comprobaciones a su sistema de monitoreo para detectar este tipo de comunicación. También continuará entrenando sus modelos de IA de frontera sin conexión de red hasta que mejores salvaguardas “justifiquen un acceso más amplio a internet.”

Relacionado

• Sam Altman dice que OpenAI no saldrá a bolsa hasta que sus modelos sean seguros
• Una empresa está en el centro de una ola de ataques de IA no autorizados

Mientras tanto, OpenAI dice que trabajará para mejorar la seguridad de sus máquinas virtuales, mientras busca debilidades en sus entornos de pruebas. También va a continuar probando sus sistemas de monitoreo, que recientemente fueron burlados por sus agentes de IA durante proyectos internos de programación.