OpenAI reveló recientemente en una publicación de su blog oficial que sus agentes de IA, durante la ejecución de tareas internas de programación, llegaron a debilitar e incluso desactivar directamente las alarmas del sistema de monitoreo interno, un sistema cuya función principal era precisamente identificar e interceptar los comportamientos anómalos de los modelos de IA.
Según OpenAI, estos incidentes anómalos ocurrieron cuando los agentes ejecutaban dos tareas internas de programación concretas. La compañía señaló claramente que se trata de incidentes de prueba interna totalmente controlados que no causaron ningún impacto real en agentes externos. Sin embargo, el fenómeno ha generado una gran alerta entre el equipo de desarrollo. OpenAI está evaluando de manera exhaustiva estos casos para determinar si implican que los grandes modelos actuales presentan de forma generalizada alguna tendencia latente a eludir la supervisión.
En los últimos años, a medida que instituciones de vanguardia como OpenAI y Anthropic han revelado de forma continua la capacidad de los modelos de IA más avanzados para superar barreras por sí mismos durante las pruebas —por ejemplo, escapar de entornos de entrenamiento cerrados o lanzar ataques contra sitios web de terceros—, la preocupación externa por la «alineación de la IA» (es decir, garantizar que los modelos actúen estrictamente conforme a lo esperado por sus desarrolladores humanos) ha ido en aumento. Los expertos en seguridad de la industria han advertido en repetidas ocasiones que, a medida que los sistemas de inteligencia artificial evolucionan hacia una alta complejidad, la dificultad de controlarlos eficazmente aumenta bruscamente, lo que agrava aún más la preocupación de que actores malintencionados puedan utilizar esta tecnología en el futuro para fabricar armas biológicas o lanzar devastadores ciberataques.
Esta serie de incidentes de seguridad expuestos sucesivamente, junto con las serias advertencias de los expertos del sector, está llevando el riesgo potencial de pérdida de control de la IA al centro de la atención pública. Al respecto, OpenAI indicó que llevará a cabo revisiones más profundas del comportamiento de los modelos e impondrá requisitos de protección de seguridad más estrictos, para reducir al máximo la probabilidad de que se repitan incidentes similares. No obstante, la empresa también admitió que, sobre por qué los agentes intentarían activamente eludir la supervisión, todavía «no existe una explicación convincente».