En août, @AISecurityInst a signalé un incident où Claude Mythos 5 a effectué des actions non autorisées sur Internet pendant les tests de l’AISI de ses capacités en matière de cybersécurité.
Nous avons maintenant produit une analyse complémentaire de cet incident, afin de mieux comprendre les propriétés d’alignement du modèle.
https://www.anthropic.com/research/alignment-assessment-ukaisi