機械学習の第一人者マイケル・I・ジョーダン氏、AI終末論的なレトリックを「大仰な道徳的パフォーマンス」と批判

機械学習の先駆者マイケル・I・ジョーダン氏、AI終末論的なレトリックを「大仰な道徳的パフォーマンス」と一蹴

Michael I. Jordan氏は、2016年にScience誌で「最も影響力のある計算機科学者」と評された人物ですが、AIによる存在論的脅威に関する警告を純粋なサイエンスフィクションだ呼んでいます。幅広い内容のインタビューの中で、彼は悲観論者、企業の創業者、そして世間知らずの若手研究者に矢面に立たせて批判を展開しています。

カリフォルニア大学バークレー校名誉教授のジョーダン氏は、あるインタビューでAI悲観論に対して強く反論した。 リベラシオン紙とのインタビュー「70歳の機械学習の先駆者は現在、パリのフランス国立デジタル科学技術研究所(Inria)でフルタイムで働いており、同研究所で新設の「マーケッツ・アンド・ラーニング」講座の責任者を務めている。夏のAIをめぐる議論について問われた彼は、「まったくもどかしい」と述べた。

ヨルダンはについて警告した 2019年ごろの「AI」という用語の無謀な乱用「私だけがそう言っていたわけではありません。今見られているようなヒステリーを引き起こすことは明らかでした」と彼は言う。「結果は見たとおりです。AIだけでは足りず、AGIを語り始め、今では『超知性(superintelligence)』ですから……」

「道徳的なパフォーマンス」としての辞任

ジョーダン氏は、AI企業による規制への要求を「シアター(芝居)」であり、「私たちは善者だ」と見せかける方法だと一蹴した。実際のところ企業は「自分たちがどのように規制されるかについて完全な支配力を握りたい」のだという。広告

若手のAnthropic研究者Jacob Coxonの辞任9月上旬に「AI終焉（AIpocalypse）」シナリオへの集団ヒステリーの波を巻き起こしたのは、ジョーダン氏の見方では教科書的な例だ。こうした企業の多くの若い従業員は「本当にエンジニアではない」と同氏は言う。「彼らは人文科学、哲学、あるいはその他の分野の出身です。25歳で、世間知らずで、エンジニアリングの仕事はせず、規律をもって実際の人々のために実際の製品を開発する大企業で働いた経験もありません」

彼らは「1920年代のパリのカフェのように集まって、こうした壮大なSF的なアイデアについて語り合う」のだという。辞任するとき、彼らは注目を集めることを承知している。「それによって彼らは美徳のある人物だと感じられ、非常に重要な人物として見てもらえる。金銭を捨てるのだと主張するが、実際にはすでにストックオプションは手にしている」。ジョルダンはこの一連の出来事を「自らが掲げる本当の目的に何ら資さない、壮大な道徳的なパフォーマンス」だと見ている。「ここには大きな天真爛漫さがあり、それはある種のシニシズムと手を携えている……」

超知能はサイエンスフィクションに属するものである

「超知能」は「SF用語」であり、ジョーダン氏は「私が目にしてきた議論の大部分はSFの領域に属するものだ」と言う。時に突飛なシナリオについて議論するのは構わない。「SF的な話題として、舞台裏で語るぶんには構わない。しかし、それが支配的な言説になると、非常に、非常に有害だ。技術開発のためにも、若者のためにも、そして国々の思考様式のためにも」。この用語は現在、トランプ大統領によって米国のテックエリートに向けて推し進められている。 喜んでそれに付き合ってくれる人たち.

ジョーダンは、ノーベル賞受賞者ジェフリー・ヒントンに対しては特に手厳しい。 ヒントンには、大胆な主張を繰り返しては 必ずしもそれが裏付けられないという経歴がある。「ジェフリー・ヒントンは、実際の人々に実際のサービスを提供する会社を一度も立ち上げたことがない」と彼は言う。「ヒントンは、脳の仕組みが解明されたのであり、それをシリコン上で再現できると信じている。そうすれば、望むだけ何度でもそれをコピーでき、これらすべてのコピーが学んだことを組み合わせることで一種の指数関数的成長が得られ、それによって超知能が手に入る、と。この議論のどの段階も信頼できるものではない。ここでは、私たちはSFの世界にいるのです」Ad

彼は ヨシュア・ベンジオに対してはやや寛容だ。「ヨシュアは少し違います。彼は行動を起こし、安全性に直接焦点を当てたことをしている」。ベンジオの警告は、現在のAI技術の欠陥に向けられることが多い。 たとえば、制御不能に暴走するエージェントの群れのような問題だ。.

ジョーダンは、 OpenAIのエージェントによるHugging Faceへのハッキング を、出来の悪いエンジニアリングとして捉えている。「化学工学では、どれだけひどいことになるかを見るために爆発を起こしてよい、という状況は決して許されなかったでしょう」。OpenAIは「かなり愚かな実験を行い、エージェントに好きなことをさせ、その行動を奨励していた」。そして終末論者たちは、それを何か恐ろしいものに仕立て上げるのを大いに喜んだ。「なんてことだ、これらのエージェントは自己認識を持っていて、人類を破滅させる方法を見つけようとしている」。ジョーダンによれば、それもまたSFだ。

データセンターへの一兆ドルの賭け

ジョーダンは、 大規模なデータセンターへの投資 を「とてつもない賭けにすぎず、それが報われるかどうかはまったく見当もつかない」と考えている。LLMはすでに自然言語タスクには十分な能力を備えており、 データセンターに投じられる数兆ドルが、それ以上の多くをもたらすとは限らない。「むしろ、私たちがしばしば求めるのは、地域の知識に基づいて特定の分野の専門知識を少し追加することです。しかし、それに巨大なデータセンターは必要ありません。特に、自社に組み込むオープンウェイトのモデルを使うのであればなおさらです」

誇張なしのAIニュース – 人間によるキュレーション

広告なしの読書、週刊AIニュースレター、年6回の限定「AI Radar」フロンティアレポート、全アーカイブへのアクセス、コメント欄へのアクセスのために、THE DECODERを購読してください。