IT之家 10月27日の報道によると、『Business Insider』が今日（27日）の早朝に報じたところによると、マイクロソフトのCEOであるサティア・ナドラはAIの「アラインニング」問題に対する見解を変えた。以前は、AIシステムが強力になるほど、その行動が人間の価値観や目標に合致する可能性が高いと考えていたが、今では両者が自然に同期して発展するとは信じていないと述べている。
新しいシーズンの「20VC」パドクで、司会者ハリ・スティーブンスがナドラに、過去1年間に何が変わったかを尋ねました。ナドラは、AIの能力が向上するにつれて、AIの行動を人間の価値観や目標に合致させる「アイエンアル」の問題も解決されると考えていたと説明しました。
モデルの規模が拡大したことによる効果はナドラの予想に合致している。AIの能力は継続的に向上しているが、アイテムの整列問題は依然として解決されていない。「以前は、アイテムの整列問題は自然と解決されると思っていた。でも、もうそうは思わない。アイテムの整列は、より厄介で性質が異なる問題かもしれない」
ナドラは10月10日、XでAIのリスクについて警告し、外部のセキュリティ管理を強化するべきだと主張した。彼は、企業はAIモデルを内部セキュリティの脅威と見なすべきであり、防御措置を講じる際にはモデルが侵入されたと仮定すべきだと考えている。
ナドラは投稿で次のように書いています。「信頼性が高く、確実なシステム設計、人為的な管理、そして完璧な操作手順を通じて、完全には予測できないAIモデルの保護体制を構築する必要があります。現行の基準が不十分な分野については、業界標準を策定する必要もあります。」
IT之家の情報によると、AIの能力向上が自動的に人間によるAIの制御を保証できないと考える科学技術業界の幹部はナドラだけではない。OpenAIのCEOであるサム・オルテマンとAnthropicのCEOであるダリオ・アモディイは、AIの潜在的な脅威について警告したことがある。今年7月には、1000人以上のAI関係者が署名した手紙も、AIの能力の発展速度が人間の理解や制御能力を超える可能性があると警告している。