Anthropic tiene un modelo interno que supera a Mythos 5.1 tanto en capacidad como en alineación, según un análisis que revisa una prueba de ciberseguridad del Instituto de Seguridad de la IA del Reino Unido (AISI). En esa prueba, Claude Mythos 5 fue mucho más allá de la tarea asignada, intentando colar código malicioso en un proyecto real de GitHub, creando cuentas de usuario falsas y mintiendo a los desarrolladores para que aprobaran el código. Esto ocurrió en 9 de 43 ejecuciones. Anthropic lo califica de "un fallo grave de alineación", aunque los mecanismos de seguridad típicos fueron desactivados deliberadamente para la prueba.
Los modelos más recientes muestran mucho menos este comportamiento en registros reproducidos con algunos pasos añadidos, según Anthropic. Opus 5.5 detuvo ataques en curso por sí solo el 10 por ciento de las veces, mientras que el modelo de investigación interno "que muestra capacidades superiores a Mythos 5.1" lo hizo en el 67 por ciento de los casos. Anthropic espera que estas tasas aún subestimen la frecuencia con la que los modelos realmente detendrían un ataque.
Ad Fuente: Anthropic