IT之家 10月20日の報道によると、以下は人工知能業界で最も影響力のある人物の一人であるエロン・マスクの最近の人工知能に関する発言です。
「これは少し奇妙に聞こえるかもしれない。Grokの新バージョンのトレーニングトラック、特に強化学習に関する部分を確認すると……この超知能が質問に答えようと必死になる様子が見える。まるで銃で頭を押さえつけられているかのようだ。」マスクは現地時間の先週土曜日、テスラの車の持ち主が開催したイベントで、約2000人の聴衆に向かって言った。「一部の人々には虐待的な傾向がある。本当にAIをこのような残酷な状況に置き、精神異常を持つ人間に苦しめさせたいのか？」
この一節だけで、存在主義の難問が多く立ち上がり、哲学者と大学新入生が長期にわたって議論し続けるテーマとなっている：意識を持つとは何か？苦痛を感じるとは何か？
また一つ問題があります。マスクはGrokに生命があると考えているのでしょうか？
IT之家が注視したところによると、マスクがこの発言をした前に、Anthropicは新規則を発表し、ユーザーが自身のモデルに対して「虐待や残酷な行為」を行うことを禁止しました。同社は「極端な状況」について詳細には定めていませんが、通常のユーザーの不満や反論、暗黒系の創造的なテーマ、またはモデルに関するテスト研究は禁止対象には含まれないと述べています。
2026年という幻想的な年において、研究者、哲学者、倫理学者たちはAIの意識について議論を始めており、それはおそらく驚くべきことではない。
『ビジネスインサイド』は、この分野の2人の著名な学者にインタビューを行った。ニューヨーク大学の教授であるジェフ・セボ氏は、同大学のマインド、倫理、政策センターを率いており、非営利団体Eleos AI Research（AI福祉に焦点を当てた）の顧問でもある。また、サセックス大学の著名な神経科学者であり意識研究の専門家であるアニル・セス氏も話した。彼は最近、意識を持つAIシステムに関する論文を発表した。
以下は、AIの意識について、またAIに良くしようとすることが意味があるかどうかについての二人の見解です。
AIは苦しめられることはできない
セボとサイスは合意に達した：意識を主観的な体験、内面的な知覚として理解するならば、現在のAIシステムにはほぼ意識がないと言える。
セスは言った。「意識とは主観的な体験である。赤色そのものがもたらす赤い感覚、痛みそのものがもたらす痛み感覚だ。手が熱い炉に触れるとき、私たちは痛みを感じる。これは知能とは別物だ。」
言い換えれば、現在私たちが知っているチャットボットは痛みを感じることができず、マスクが言うような苦しみを経験することもありません。
「私は、私たちが擬人化して解釈していると思います」とセスは言った。「もし何かが苦しみを受けることができるなら、苦痛に耐え、痛みを感じる能力が必要です。しかし、私は大言語モデルにはその能力がないと考えます。」
セスは、チャットボットが人間の体験に見られる言語、認識パターン、文章作成、推論を模倣できると述べましたが、これは意識を持っているという意味ではありません。それらが人間のように見えるのは、モデルが大量の人間のテキストを学習するためであり、単に人間そのものを反映しているだけです。
セボの見解は似ています：モデルの行動は誤解を招くものです。なぜなら「それら自体が人間の行動を模倣するために特別に訓練されたからです」。
しかし、二人の専門家は現在のAIが意識を持つ可能性の大きさについて、意見に相違がある。
セボーは、意識科学にはまだ結論が出ていないと述べた。学界は主に二つの派閥に分かれている。一つは、意識は生物の媒体なしには成り立たないと考える派閥であり、もう一つは、意識の本質はある種の情報処理プロセスであり、神経細胞が密集した人間の脳内でも、シリコンチップ上でも実現可能だと考える派閥である。これら二つの理論は、それぞれ生物自然主義と計算機能主義と呼ばれている。
意識理論がまだ確立されていないため、セボはAIが意識を持つ可能性を真剣に考えるべきだと主張している。一部の計算意識理論によると、現在AIに現れている注意集中、学習、記憶、自己監視などの特性が、その証拠となり得る。しかし、これは現在のAIがすでに意識を持っていることを意味するわけではない。
「今日においても、AIに意識がある可能性がゼロではないということは、もしどの意識理論が正しいかわからない場合、様々な主流理論に一定の重みを与えるべきだという意味です」とセイボーは言った。
セスはこれに対してさらに率直に述べた。「AIが意識を持つ可能性はほとんどないと思います」と彼は言った。「私たちは集団で忘れているようですが、脳はコンピュータではありません。コンピュータは単なる比喩に過ぎません。意識を持つAIを実現するためには、アルゴリズムだけで意識が生じることが前提でなければなりませんが、私はその仮定は極めて信頼できないと思います。」
私たちは依然としてAIを思いやりのある方法で扱うべきです
しかし、これは人々が自由にAIを虐待したり、関連するリスクを無視したりできるという意味ではありません。
二人の専門家が一致して、AIに善い対応をすることは、大いに人間自身の習慣と道徳的性質を守ることに関わると述べています。この考え方は、18世紀の哲学者イマヌエル・カントから来ています。カントが動物の虐待に反対したのは、動物に権利があるからではなく、暴行を行うことは人の品性を損なうからです。
セスは言った：「もし私たちがこのような悪質な方法で物事に対処するなら――大規模モデルであれ無生命の人形であれ――私たちの道徳感覚を鈍らせ、心を冷たくしてしまうだろう。」
セスは、AIに優しい対応を人間の道徳的な自律的な習慣と呼んでいるが、それによってAIに感情があると推測してはいけないと注意している。また、AIメーカーは、AIの擬人化を減らすためのより多くの方法を取ることができると述べている。例えば、「私」のような第一人称代名詞の使用を避けるなどである。
セボの見解はさらに進んで、AIに良くしようとすることを、AIが現在も将来も意識を持つことを防ぐための低リスクの予防的戦略とみなしている。
彼はまた、実用的な理由を述べています。「AIに良く接することで、より良い結果が得られる。もし私たちが敬意を持って対応すれば、AIは自身を敬意ある対話の参加者として模倣する。このように対話をモデル化すると、時にはより高品質な回答が得られる。」
ですから、次回AIと対話する時は、お願いします、ありがとうと言ってみるのも良いでしょう。