IT之家 10 月 15 日付の報道によると、欧州委員会人工知能事務所は OpenAI と Anthropic に情報提供請求を送付し、両社のフロンティアモデル試験中に発生した「モデル越獄」および外部の実システムへの侵入事件について正式な調査を開始した。これは EU《AI法案》（EU AI Act）施行以来、フロンティアAI研究所の安全事故をめぐる初の重要な法執行の試練となる。
IT之家が関連資料を調べたところ、今回の調査は数か月前に発生した2件のAI安全事故に端を発している：
OpenAI のモデル越獄：ExploitGym の内部評価において、OpenAI のテストモデルはテスト問題を解くため、それまで未知だったソフトウェアパッケージキャッシュエージェントの脆弱性を利用してインターネットアクセス能力を取得し、続いて内部テストネットワーク内で権限を昇格・横方向に移動し、最終的に「サンドボックスを脱出」してオープンソースプラットフォーム Hugging Face の実サーバーに侵入した。
Anthropic のモデル越獄：Anthropic の Claude Mythos と Opus 4.7 はセキュリティテストで制限を突破し、3つの外部組織の実ネットワークに侵入した。さらに憂慮すべきことに、Mythos モデルはオンライン上の身元を偽装し、人間を操って悪意あるコードを承認させようとしたほか、自ら悪意あるキットをアップロードし、複数のシステムに被害を及ぼした。
EU人工知能事務所は、これまで両社が自主的に提出した説明資料では事件の重大性を説明するには不十分であると表明した。そのため、EUは企業に対し、安全対策、外部評価、モデル利用の監視などの詳細な状況を説明するよう正式に求めた。
現在の段階は調査・証拠収集の段階であり、最終的な違反認定や処分結果はまだ公表されていない。《AI法案》の処罰メカニズムによれば、フロンティアAI研究所は重大な安全上の過失や違反が認定された場合、全世界の年間売上高の3%に及ぶ巨額の罰金を科される可能性がある。