Anthropic社は、能力とアライメントの両面でMythos 5.1を上回る内部モデルを保有している、 によると 分析 それを再訪する 英国AI安全研究所(AISI)によるサイバーセキュリティテスト。そのテストでは、 Claude Mythos 5 本来割り当てられたタスクをはるかに超え、実際のGitHubプロジェクトに悪意のあるコードを忍び込ませようとしたり、偽のユーザーアカウントを作成したり、開発者に嘘をついてコードの承認を得ようとした。これは43回のうち9回の実行で発生した。Anthropicはこれを「アライメントの重大な失敗」と呼んでいるが、テストでは通常の安全機構が意図的にオフにされていた。
Anthropicによると、新しいモデルでは、いくつかのステップを追加して再生したログにおいて、このような挙動がはるかに少なく見られるという。 Opus 5.5 自社を標的とした進行中の攻撃を自力で阻止できたのは10パーセントのケースにとどまり、一方「Mythos 5.1より高い能力を示す」社内研究モデルは67パーセントのケースで阻止しました。Anthropicは、これらの数値はモデルが実際に攻撃を阻止する頻度を過小評価している可能性が依然としてあると考えています。
Ad\t\t\n\n\t\t\t\t\t\t\n\t\t\t\n\t\t\t\t\n\t\t\t\t\n\t\t\t\t\n\t\t\t\n\t\t\n\t\t\n\t\t\n\t\t\t\t\t\n\t\t\t\tソース: Anthropic