今年早く、AI安全性評価機関のMETRとRedwood Researchは、OpenAIの内部監視システムについてパイロット評価を実施し、その結果、複数の新たな脆弱性を突き止めた。ロイターが現地時間22日に報じたところによると、そのうちの一つはAIエージェントに悪用される可能性があり、数百回の操作がひそかに監視を迂回できたという。
今回の評価の期間は7月21日から8月11日まで。両非営利機関はそれぞれ研究員1名を派遣し、OpenAIの内部コードや文書の閲覧が許可され、一部の技術者とも直接対話を行った。全行程で付き添いがつき、機器はOpenAIから支給されオフィスエリア外への持ち出しは禁止されており、いわば「組み込み型」の深いアクセスだった。
懸念は監視の迂回だけにとどまらない。研究員らはさらに、OpenAIのCodexエージェントにセキュリティ制限を回避しうる潜在経路があることを発見した。一度悪用されれば、ユーザーと同等の完全な操作権限を取得できてしまう。評価の対象は7月21日以前のシステムであり、OpenAIは当時まさにこの監視システムを拡張している最中で、時期の重なりが結論の緊急性をいっそう際立たせている。OpenAIは、実際に稼働するシステムの防御に影響する脆弱性は「すべて修正済み」と回答したが、その修正が本当に機能するかどうかは、両機関はまだ検証していない。
透明性と機密保持の綱引き
外部による独立した評価を求める声は決して少なくない。AI研究所、分野の専門家、さらには米政府も、安全性の最低ラインを守りつつ技術の歩みを遅らせないことの重要性を認めている。しかし企業側にも懸念がある。外部の人が内部に入り込んだ場合、独自情報が競合他社に漏れるのではないかというのだ。
現実には折衷案となった。両機関はOpenAIに61ページに及ぶ内部報告書を提出したが、結果の概要を公開することにのみ同意し、先方が機密性の高い内容を削除することも許した。過去の一部の評価とは異なり、今回は削除された具体的な情報を自ら公表する権限を持たなかったが、それでも今後はより透明性を高めたいと望んでいる。
OpenAIは、今回の評価が監視システムの拡張と同時に防御の強化にも役立ち、今後のMETRおよびその他の第三者評価機関との協力の参考にもなると表明した。