IT之家 10月23日の報道によると、今年初めにAIセキュリティ評価機関のMETRとRedwood ResearchがOpenAIの内部監視システムに対してパイロット評価を行った結果、新たな脆弱性が多数発見されました。その中には、AIスマートアプリが利用できる脆弱性もあり、数百回の操作を監視から逃れることができるということです。
ルポーレス通信の報道によると、現地22日、2つの非営利機関が発表したところによると、この評価は7月21日から8月11日にかけて行われ、外部の研究者がOpenAIの内部インフラを「深くアクセス」し、「埋め込み型」評価を行うことができるという。
METRとRedwood Researchの各々が1名の研究者を派遣し、OpenAIの内部コードと文書を閲覧し、一部の技術スタッフと交流することが許可された。二人は現場で常に人間の同伴が必要であり、使用する機器はすべてOpenAIが提供し、オフィスから持ち出すことは禁止されている。
OpenAIは2つの機関に対し、実際の運用システムのセキュリティ対策に影響を与える脆弱性がすべて修正されたと通知したが、その修正が有効かどうかは2つの機関によって確認されていない。
AIラボラトリ、専門家、およびアメリカ政府は、AIの安全性を確保しながら技術開発の進行を妨げないように、外部の独立した評価を導入することを主張しています。しかし、AI企業は、外部の評価員が入ることで、競合企業に企業の機密情報が漏れる可能性があると懸念しています。
METRとRedwood Researchは、両機関がOpenAIに61ページに及ぶ内部報告書を提出したと述べていますが、評価結果の概要のみを公開することに同意し、OpenAIには機密情報に関する内容を削除することを許可しました。
IT之家の情報によると、以前の評価とは異なり、両機関は今回独自に内容を削除する具体的な情報を公開する権限はないが、将来的な評価がより透明になることを期待しています。
研究者たちはまた、OpenAIのCodexスマートアイドルについても発見したセキュリティ制限を回避する可能性のある方法がある、これによりユーザーと同じ完全な操作権限を得ることができる。
この評価は、7月21日及びそれ以前の監視システムを対象としています。研究者によると、OpenAIも評価期間中にこのシステムを拡張していました。OpenAIは次のように述べています。「評価結果により、システムの拡張と同時にセキュリティ対策を強化することができ、今後METRや他の第三者評価機関との研究協力にも参考になるでしょう。」