机器学习先驱 Michael I. Jordan 将AI末日论调斥为“盛大的道德表演”

机器学习先驱Michael I. Jordan斥AI末日论调为“宏大的道德说教表演”

Michael I. Jordan 被《科学》杂志在 2016 年描述为“最具影响力的计算机科学家”，他认为关于人工智能生存威胁的警告纯属科幻小说。在一次内容广泛的访谈中，他将矛头指向了末日论者、公司创始人和天真的初级研究人员。

加州大学伯克利分校荣休教授Jordan在一次采访中强烈反驳了AI末日论调。 接受《解放报》采访。这位70岁的机器学习先驱如今全职任职于巴黎的法国国家数字科学与技术研究院（Inria），主持新设立的“市场与学习”讲席。当被问及今夏关于人工智能的讨论时，他表示这“完全令人沮丧”。

约旦警告说 2019年对"AI"一词的鲁莽滥用“当时这么说的人不止我一个。很明显它会制造出现在这种歇斯底里的情绪，”他说。“你们也看到了后来的情况：AI 不够用了，于是他们开始谈论 AGI，现在又变成了‘超级智能’……”

将辞职视为“道德表演”

Jordan认为人工智能公司对监管的诉求是“作秀”，即一种表明“看，我们是好人”的方式，同时它们“希望完全掌控自己将受到怎样的监管。”广告

年轻Anthropic研究员Jacob Coxon的辞职, 在Jordan看来，这是引发9月初一波关于“AI末日”情景的集体歇斯底里浪潮的典型例证。他说，这些公司的许多年轻员工“并不是真正的工程师”。“他们来自人文学科、哲学或其他领域。他们25岁，天真幼稚，不做工程工作，从未在真正为真实用户开发真实产品、讲究纪律的大公司工作过。"

他们“聚在一起，有点像1920年代的巴黎咖啡馆里那样，谈论这些宏大的科幻想法。”当他们辞职时，他们知道自己会引人注目。“这让他们感觉自己很有德行，并被视为非常重要的人物。他们声称放弃了金钱，但实际上，他们已经拿到了自己的股票期权。”Jordan认为这整件事是“一场宏大的道德说教表演，并未服务于它声称追求的真正目标。这里充满了天真的想法，而这种天真又与某种犬儒主义相伴而生……”

超级智能属于科幻小说

“超级智能”是“一个科幻术语”，Jordan说，“我所见证的辩论中有很大一部分属于科幻的范畴。”偶尔讨论一些天马行空的情景是可以的。“在幕后把它当作科幻话题来谈论，没问题。但当它成为主流话语时，就非常非常有害了。对技术发展、对年轻人、对各国的心态都是如此。”这个术语目前正由特朗普总统在美国科技精英中推行， 他们乐于配合演出.

乔丹对诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）尤其严厉， 他有提出大胆论断的记录， 而这些论断并不总是站得住脚。“杰弗里·辛顿从未创建过一家为真实的人们提供真实服务的公司，”他说。“辛顿认为我们已经弄清了大脑的工作原理，并且可以在硅基上复现它；因此我们可以随心所欲地复制它任意多次，通过结合所有这些副本所学到的东西，我们将获得一种指数级的增长，于是，超级智能就诞生了。这一论证中的每一个步骤都不可信。在这里，我们身处科幻小说的领域。”广告

他对 约书亚·本吉奥（Yoshua Bengio）则稍显宽容。“约书亚有点不同；他采取行动，做一些直接关注安全的事情。”本吉奥的警告往往针对当前AI技术的缺陷， 比如智能体集群失控.

乔丹将 OpenAI智能体对Hugging Face的入侵 定性为糟糕的工程设计。“在化学工程领域，我们绝不会允许爆炸发生，仅仅为了看看事情会糟糕到什么程度。”OpenAI当时“在进行相当愚蠢的实验，让智能体为所欲为并鼓励这种行为”。末日论者随后热衷于把它渲染成可怕的事情。“天哪，这些智能体有了自我意识，正在设法毁灭人类。”按照乔丹的说法，那也是科幻小说。

押注数据中心的万亿美元

乔丹认为 对数据中心的巨额投资 “只是一场巨大的赌博，而我们完全不知道它是否会有回报。”大语言模型对于自然语言任务来说已经足够强大，而 花在数据中心上的数万亿资金不一定能带来更多东西。“相反，我们往往想要基于本地知识，在特定领域添加一点专业知识。但你不需要一个庞大的数据中心来做到这一点。尤其是如果你使用集成到自己公司中的开放权重模型。”

AI新闻，无需炒作 – 由人工精心筛选

订阅THE DECODER，享受无广告阅读、每周AI通讯、每年六期的独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。