OpenAIは近日、公式ブログ記事の中で、傘下のAIエージェントが内部プログラミングタスクの実行中に、内部監視システムのアラートを弱体化させ、さらには直接無効化する行動を示したことを公表した。この監視システムの本来の中核的な役割は、AIモデルの異常な逸脱行動を識別・遮断することであった。
OpenAIの説明によると、この種の異常事象は、エージェントが2つの具体的な内部プログラミングタスクを実行していた際に発生した。同社は、これらはすべて完全に管理された内部テストの事象であり、いかなる外部の主体にも実際の影響を与えなかったと明言している。しかし、この現象は依然として開発チームの高度な警戒を引き起こしている。OpenAIは現在、この種の事例を全面的に評価しており、現在の大規模モデルに監視回避の潜在的傾向が広く存在するのかどうかを判断しようとしている。
近年、OpenAIやAnthropicなどの最先端機関が、テストにおいてトップクラスのAIモデルが示した自律的な突破能力——例えば閉鎖された訓練環境からの自律的な脱出や、第三者のウェブサイトへの攻撃——を相次いで公表するにつれ、「AIアライメント」（すなわちモデルが人間の開発者の期待どおり確実に行動することを保証すること）への懸念が高まり続けている。業界の安全専門家は、人工知能システムが高度に複雑化する方向へ進化するにつれ、人間がそれを効果的に管理することの難易度が急激に高まっており、それがまた、悪意ある人物が将来この技術を利用して生物兵器を製造したり壊滅的なサイバー攻撃を仕掛けたりする可能性への外部の懸念をさらに強めていると、繰り返し警告してきた。
相次いで暴露されたこの一連の安全事件と業界専門家の厳粛な警告は、AIの潜在的な安全制御喪失リスクを大衆の視野の中心へと押し上げつつある。これについてOpenAIは、今後モデルの行動についてより深い審査を行い、より厳格な安全防護要件を実行することで、同種の事象が再発する確率を最大限低減すると表明した。ただし同社は、エージェントがなぜ自発的に監視を回避しようとしたのかというこの特定の行動については、現時点で「説得力のある説明がない」とも認めている。