マイクロソフトの最高経営責任者であるサティア・ナドラは、10月10日にソーシャルプラットフォームで長文を投稿し、業界に対して先進的な人工知能モデルに「緊急停止」メカニズムを導入し、現在のAI信頼構造を完全に評価するよう公に呼びかけました。
現在急速に進化している超知能技術に対して、ナドラは、業界が複雑なブラックボックスモデルを全知全能と無謀に捉えることはできないと指摘しました。代わりに「モデルが攻破されている」という防御的な仮定から出発し、より慎重なセキュリティガバナンスの方針を推進すべきだと述べています。
具体的な技術フレームワークにおいて、ナドラは下層のAIモデルとその作業タスクを調整する制御フレームワークを分離し、制御やセキュリティ対策を外部化することを主張した。彼は、意味のあるモデル操作は必ず改ざん防止的で人間が読み取れる実行証拠を伴わなければならず、権限を持つ人がタスクの実行中に随時モデルを一時停止または終了する ultimate権限を持つことも必要だと強調した。 この主張は、以前アントロピックのCEOであるダリオ・アモディが提案した慎重な開発計画と呼応しており、現在のトップテクノロジーリーダーたちがAIモデルの制御不能のリスクに対して持つ高い警戒心を明らかにしている。
業界の分析によると、モデルの自律性と代理能力がますます向上する中で、透明で制御可能であり、外部の介入も可能な業界標準をどのように構築するかが、技術革新と安全基準のバランスを取るための重要な課題となっている。