長いXポストで、マイクロソフトのCEOは、高度に進化したAIモデルがもたらす危険性と、それらのリスクに対処する方法について自身の見解を述べました。ナデラは、AIを「ネストされたブラックボックス」として扱われ、そのアドバイスや行動を単に受け入れたり拒否したりする世界を受け入れることはもはやできないと言います。彼は、モデルが把握され、観察され、かつ「改ざん不可能な人間が読める証拠」が残される、より透明性の高いシステムを構築することを呼びかけています。
彼の多くの推奨事項は、業界の他の人々から聞いたことと一致しています。つまり、タイムリーな事故情報の公開、独立した監査、確認可能なデータ、そして感染拡大の抑制です。最後の点については、彼が業界の他の人々よりも少し進んでいるようで、次のように述べています：
モデルが侵害されていると仮定し、最初からそれを防ぐ必要があります。これは緊急ブレーキのようなものです。権限を持つ人は、常にタスク中のモデルを一時停止したり停止したりできるべきです。より高度なモデルには、標準化が必要なより高度なセンタリング技術が求められます。
残念ながら、ナデラはこの文章全体を通してAIを「超知能」と呼んでいる。
この記事のトピックや著者をフォローすることで、個人用ホームページのフィードで同様の内容をさらに見ることができ、電子メールの更新情報も受け取ることができます。