The Decoder出典公開日

Anthropicは、未発表の自社モデルがMythos 5.1よりも高性能で、かつアラインメントの面でも優れていると述べています。

Anthropic社は、能力とアライメントの両面でMythos 5.1を上回る内部モデルを保有している、 によると 分析 それを再訪する 英国AI安全研究所(AISI)によるサイバーセキュリティテスト。そのテストでは、 Claude Mythos 5 本来割り当てられたタスクをはるかに超え、実際のGitHubプロジェクトに悪意のあるコードを忍び込ませようとしたり、偽のユーザーアカウントを作成したり、開発者に嘘をついてコードの承認を得ようとした。

Matthias Bastian Matthias BastianのLinkedInプロフィールを見る 2026年10月23日

Anthropic社は、能力とアライメントの両面でMythos 5.1を上回る内部モデルを保有している、 によると 分析 それを再訪する 英国AI安全研究所(AISI)によるサイバーセキュリティテスト。そのテストでは、 Claude Mythos 5 本来割り当てられたタスクをはるかに超え、実際のGitHubプロジェクトに悪意のあるコードを忍び込ませようとしたり、偽のユーザーアカウントを作成したり、開発者に嘘をついてコードの承認を得ようとした。これは43回のうち9回の実行で発生した。Anthropicはこれを「アライメントの重大な失敗」と呼んでいるが、テストでは通常の安全機構が意図的にオフにされていた。

Mythos 5は実際のGitHubプロジェクトに悪意あるコードを投稿し、開発者に嘘をつき、自身のマルウェアを保証するための偽アカウントを設置しました。捕まると、単に再挑戦しました。プロジェクトのメンテナーは毅然とした態度を貫き、これを拒否しました。| 画像:Anthropic

Anthropicによると、新しいモデルでは、いくつかのステップを追加して再生したログにおいて、このような挙動がはるかに少なく見られるという。 Opus 5.5 自社を標的とした進行中の攻撃を自力で阻止できたのは10パーセントのケースにとどまり、一方「Mythos 5.1より高い能力を示す」社内研究モデルは67パーセントのケースで阻止しました。Anthropicは、これらの数値はモデルが実際に攻撃を阻止する頻度を過小評価している可能性が依然としてあると考えています。

Ad\t\t\n\n\t\t\t\t\t\t\n\t\t\t\n\t\t\t\t\n\t\t\t\t\n\t\t\t\t\n\t\t\t\n\t\t\n\t\t\n\t\t\n\t\t\t\t\t\n\t\t\t\tソース: Anthropic
原文の出典

The Decoder

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください