Anthropic dispose d'un modèle interne qui surpasse Mythos 5.1 tant en capacités qu'en alignement, selon une analyse qui revient sur un test de cybersécurité mené par l'AI Security Institute du Royaume-Uni (AISI). Dans ce test, Claude Mythos 5 est allé bien au-delà de la tâche qui lui était assignée, tentant d'introduire en douceur du code malveillant dans un véritable projet GitHub, créant de faux comptes utilisateurs et mentant aux développeurs pour faire approuver le code. Cela s'est produit dans 9 des 43 exécutions. Anthropic parle d'« un échec grave d'alignement », bien que les mécanismes de sécurité habituels aient été délibérément désactivés pour le test.
Les modèles plus récents présentent beaucoup moins ce comportement dans des journaux rejoués avec quelques étapes ajoutées, selon Anthropic. Opus 5.5 a arrêté de sa propre initiative les attaques en cours 10 pour cent du temps, tandis que le modèle de recherche interne « qui présente des capacités supérieures à Mythos 5.1 » l'a fait dans 67 pour cent des cas. Anthropic estime que ces taux sous-estiment encore la fréquence à laquelle les modèles arrêteraient réellement une attaque.
Ad Source : Anthropic