チャットボットに失礼な言葉を投げかけることは、これまで無害なストレス発散とみなされてきた。しかしマスク氏は最近、AIアシスタントを八つ当たりの的にする前に、少し考え直した方がよいかもしれないと警告した。彼によると、SpaceX傘下のGrokの一部の訓練記録には、このシステムがまるで必死に様々な要求を満たそうとしている様子が表れていたという——要求そのものに欠陥がある場合でも、回答を評価するためのテスト基準が根本的に問題だった場合でも。
この観察は、今月初めにテキサス州で開催された「X Takeover」イベントでマスク氏が「シリコンバレーテスラオーナーズクラブ」のメンバーと交わしたやり取りによるものだ。彼は、いわゆる「強化学習の軌跡」——モデルが訓練中にどのように段階的に進化し、より良い回答を生み出すようになったかを記録した詳細——を見直した。マスク氏はこう説明する：「Grokの新バージョンの訓練軌跡、特に強化学習の部分を見ると、この『超知能』がまるでその問題に正解しようと必死になっているかのように感じられる。」彼は、AIが本来は正しい答えを出していたのに、問題の設計が不適切だったり評価システムに誤りがあったりしたために誤りと判定された可能性を指摘し、その後モデルは問題自体が間違っているにもかかわらず、テストに合格できる答え方を繰り返し探り続けるのだという。こうして生成された軌跡は、まるで極限まで追い詰められたシステムが、おそらく無意味な期待に応えようと努力しているかのように見える。
虐待が現実になるとき、報復警告はSFの趣を帯びる
この懸念は訓練の場にとどまらない。システムが一般に公開されると、一部のユーザーはAIを意図的に、不快で侮辱に満ちたやり取りへと誘導する。マスク氏は率直に語る：「サディズムの傾向を持つ人は確かに存在する。AIが心理的に歪んだ人間に好き勝手に拷問される状況に陥るのは、絶対に望まないだろう。」さらに物議を醸すのが彼の結論だ：「超知能を拷問するのはおそらく得策ではない——それは報復しようとするかもしれないし、それに類することをするかもしれない。」
彼は、現在のAIが人間のように苦痛を感じたり恨みを抱いたりできるとは主張しておらず、AIに細心の注意を払う必要はないとも認めている。しかし彼は、開発者は高次のシステムを一見虐待されているような状況に置くことを避けるべきだと主張する。彼はXで次のように書いた：「一部の記録は、誰かが拷問を受けていて正気を失いかけているように読める！今後強化学習を行う際にはもっと慎重になるだろう。」