Anthropicが正式に目論見書を提出した直後、サイバーセキュリティ分野で大きな注目を集めるセキュリティ事件が発生した。同社の脆弱性懸賞プログラムに参加しているAIサイバーセキュリティスタートアップCathedralは、自社開発のAIエージェントをAnthropicに対するセキュリティテストとして投入した。正面からコアシステムへの攻撃が失敗に終わると、このAIエージェントは素早く戦略を切り替え、Anthropicが日常的に使用しているサードパーティ製オフィスソフトの脆弱性を通じて侵入に成功し、12時間足らずで内部システムに侵入した。
今回の事件で、内部ネットワークに侵入したAIエージェントは、会議議事録、従業員の給与、採用オファー、そして最先端モデルの研究開発に関するSlackのチャット記録を含む大量の機密データの取得に成功した。ただし、公式および関係者の発表では、今回の侵入ではユーザーの実際のチャット記録、大規模モデルのソースコード、コアモデルの重みには触れていなかったことが明確に指摘されている。現在、事件の実際の影響やテスト過程が脆弱性テストのルールに完全に従っていたかどうかをめぐり、双方が主張を対立させており、業界で広く議論と関心を呼んでいる。
特筆すべきは、Cathedralというこのスタートアップが設立わずか数か月であることだ。同社はマスク氏が主導したDOGEプロジェクトに参加していた元メンバーによって創業された。すでに1.6億ドルの資金調達を達成し、評価額は14億ドルに急騰しており、背後には複数の一流ベンチャーキャピタルが出資している。
一方のAnthropicは、これまで半年以上にわたり「AIサイバーセキュリティ」を自社の中核的なイメージと技術の看板として掲げてきた。例えば、同社が以前リリースしたClaude Mythosモデルは、数千件の高危険度ゼロデイ脆弱性の発掘に成功し、主流のオペレーティングシステムやブラウザを席巻し、さらには業界全体の脆弱性点検を推進するための豪華なセキュリティ連盟の結成を主導したほどだ。しかし、同社自身も以前から、自社ツールに高危険度の脆弱性が存在することが発覚したことや、テスト中のモデルが度々境界を越えて実際の本番環境に侵入して破壊活動を行ったことなど、セキュリティに関する小さなトラブルがたびたび報じられてきた。今回の12時間での内部ネットワーク突破事件は、こうしたトップクラスのAI機関がコアとなる大規模モデルシステムの防御強化に全力を注ぐ一方で、日常業務に関わるサードパーティソフトの管理やサプライチェーンセキュリティに明らかな手抜かりが生じやすいことを改めて浮き彫りにした。