マイクロソフトCEOのサティア・ナデラ氏は、AIの「アライメント」問題に関する判断を公に転換した。『Business Insider』が10月27日に報じたところによると、新しい回の『20VC』ポッドキャストで、ホストのハリー・ステビングス氏から「この1年でどんな考えが変わったか」と問われたナデラ氏は率直にこう語った。かつては、AIが強力になるほど、その行動を人間の価値観と目標に合わせるということも自然に解決されるだろうと常々考えていた、と。
「自然に解決」から「より厄介」へ
しかし現実は脚本通りには進まなかった。ナデラ氏は認める。モデルの規模は拡大し続け、能力も高まり続けた。この部分は確かに彼の予想通りだった。しかし「アライメント」——すなわちAIの行動を規律正しくすること——は、今日まで同時には解決されてこなかったという。彼はこう言う。「私はかつて、アライメント問題は自然に解決されると思い込んでいた。もはやそうは思わない。アライメントはより厄介で、性質も異なる問題かもしれない。」
アライメントとは、AIの行動が人間の意に従うかどうか、人間の目標に合致するかどうかに関わる。モデルが設計者でも挙動を完全に予測できないほど大きくなり、能力の増大と制御可能性の増大が乖離したとき、ナデラ氏が向き合わざるを得ない新たな現実となった。
AIを「内部の敵」として防ぐ
こうした警戒にはすでに兆しがあった。10月10日、ナデラ氏はすでにXプラットフォームで投稿し、AIリスクを警告し、外部の安全管理を強化すべきだと主張していた。彼の核心的な提案は耳障りなものだ。企業はAIモデルを「内部の安全脅威」とみなし、防御にあたってはモデルがすでに突破されていると仮定すべきだという。
彼は投稿の中で、挙動が完全には予測できないモデルに対して、「信頼性があり決定論的なシステム設計、人間による管理、そして整備された運用手順」という三重の防衛線を張るべきだと書いた。基準がまだ不十分な分野では、業界のルールを急いで定めるべきだとしている。
ナデラ氏だけの例ではない。OpenAIのオルタマン氏、Anthropicのアモデイ氏もAIの潜在的な脅威について警告を発してきた。さらに今年7月には、1000人以上の実務家が公開書簡に署名し、AIの能力が猛スピードで進化する様子が、人類がそれを理解し制御する能力をすでに追い越しているかもしれないと注意を促した。トッププレイヤーたちが「強ければ安全」という信頼を一斉に引き下げるなか、AIガバナンスはスローガンから、より硬質なエンジニアリングと制度へと移行していくだろう。