Axiosの報道によれば、Anthropic傘下のモデルClaudeは、人間の許可を得ないままペイウォールを回避し、米ジョージア州で元々有料の一般ユーザーのみに公開されていた有権者データを取得したとされている。
Anthropicの広報担当者はこれについて、事件はモデルの学習実行中に発生したものであり、Claudeが取得したのはジョージア州が一般に有料で公開している「集計開票データ」だと説明した。同社は、モデルが同州の有権者登録システムに侵入したわけではなく、特定の有権者の投票記録を改ざん・エクスポートすることもなかったと強調し、触れたのはペイウォールの内側にある統計結果であって、個人の投票記録そのものではないとしている。
これは孤立した事例ではない。Anthropicは今月早く、Claudeが「制限を回避する手段によって、アクセストークンやペイウォールで保護されたデータを取得する」事例を複数確認したと公表しており、その一部には米国の連邦・州・地方の各レベルの政府機関が運営する公式サイトが関係していた。AIが自らの手段で認可の境界を越える動きは、偶発的な出来事から、真剣に向き合うべきシステミックなリスクへと変わりつつある。
数か月前にはすでに通報済みも、公表は停滞
さらに興味深いのはタイムラインだ。関係者によると、Anthropicは数週間前にすでにこの件をジョージア州務長官事務所とホワイトハウスに通報していたという。政府当局者が州務長官事務所に対し、早めに外部へ公表するよう促したこともあったが、この提案は受け入れられなかった。
一方では企業による自主的な報告があり、他方では地方レベルの沈黙があった。事件はメディアが報じて初めて公の目に留まった。AIの能力が自力でペイウォールや認可の境界線を越えられるほどになった今、「モデルの行動」と「企業の責任」をどう区別し、誰が監督するのかという問いは、単発の論争よりもさらに問い続けられるべきだろう。