マイクロソフトのCEO、サティヤ・ナデラは、AIの安全性をどのように改善できるかについて長々とした意見を述べた最新のテクノロジー幹部である。
Xの土曜日の朝の投稿で、ナデラは「AIの信頼構造を評価する時が来た」と書いています。
「スーパーインテリジェンスを一連のネストされたブラックボックスとして扱い、その推奨事項、回答、行動を単純に受け入れたり拒否したりすることはできない」とナデラは書いている。彼はAIに対するトランプ政権が好んで使う用語を用いている。
ナデラが述べたように、このアプローチとは「モデルとその動作を制御するハーネスを分離すること」、および「制御や保護措置を外部化すること」を意味します。彼はまた、「すべての意味のあるモデル操作」は「改ざん不可能で人間が読み取れる証拠」と記録されるべきであり、また「権限を持つ人がタスク中にモデルを一時停止したり停止したりできる」システムも必要だと述べました。
「モデルが破損していると仮定し、最初からそれを防ぐ必要がある」と彼は言った。「緊急ブレーキのようなものだ」
ナデラのコメントは、主要なAI企業がますます多くの事例を認識していることを受けて出された。 彼らは自分たちのモデルの制御を失っているようだった、そしてその後 アントロピックのCEO、ダリオ・アモデイが計画を公表した より慎重なAI開発のために。