在AI生成的证明涌入数学领域后,一些数学家呼吁抵制OpenAI

一些数学家呼吁抵制OpenAI，因为AI生成的证明涌入他们的领域

OpenAI发布数百份AI生成的数学手稿后，人类数学协会呼吁抵制。许多论文写得极其晦涩怪异，以至于即使是顶尖专家也需要借助AI才能解读，有些甚至根本无法解读。一场争论正在形成：在一个问题获得独立推导并被人类理解之前，它能否算作已被解决。

人类数学协会(AHM)指责OpenAI在发布该 AI 防护 并敦促数学家们停止与该公司合作。

该小组主席、菲尔兹奖得主陶哲轩 作为客座文章分享了该声明 在他的博客上，同时还在 Mastodon 上勾勒了一个“Math 2.0”时代，在这个时代中，解决问题不应再是该学科的主要焦点。复杂性理论家 Scott Aaronson 将这一局面描述为“Mathocalypse（数学末日）”，发表在 他的博客.

AHM的声明使局势升级。 长达数月的辩论。OpenAI此前曾声称其内部模型解决了，引发轰动。 超过100个开放的数学问题 在短短一个月内，包括对 Navier-Stokes Millennium Problem的尝试。针对日益增多的批评， OpenAI 在高等研究院设立了咨询小组 AGMAI ，不过该小组明确表示对公司内部研究的进度没有发言权。

AHM 将此次发布视为一种武力展示

AHM 表示，OpenAI 已经无视了 AGMAI 建议的核心前提，即高级数学问题不应在内部模型上进行测试。声明中写道：“数学家们并没有要求做这项工作，”并将一次性发布超过 700 个文件描述为“不是学术的展示，而是权力的展示。”

声明的开头段落还提到了 OpenAI 在世界各地面临的众多版权诉讼，虽然没有直接言明，但暗示该公司无论合法与否，可能正是因为使用了数学家的作品进行训练才能取得这些成果。

同样的争议在 OpenAI 最近宣布解决 Navier-Stokes problem 时浮出水面，当时两名数学家即将展示他们自己的 AI 辅助解决方案。这两人曾在工作中使用 ChatGPT，而 OpenAI 否认了外界关于其利用这些互动的 数据 来训练自己的系统并更快得出解决方案的猜测。

Aaronson 将此与他所谓的“Anthropic 模式”进行对比。OpenAI 一次性批量发布原始 AI 证明草稿，引发了一场消化这些草稿的竞赛。 Anthropic 则选择与两位算法研究人员合作 其 AI 模型为推翻两个存在数十年之久的猜想提供了关键思路。研究人员获得了报酬，并撰写了一个人类能够读懂的证明版本。

两种方法都有缺陷。OpenAI 的方法让社区免费承担将证明变得可读的吃力不讨好的工作。Anthropic 的方法则让一家私人公司得以选择哪些数学家可以担任某项成果的“使者”。

AI 破解数学问题的速度超过了任何人验证结果的速度

陶哲轩此前与其他 24位菲尔兹奖得主一起，包括Peter Scholze、Maryna Viazovska和Martin Hairer，签署了一份声明，警告称人工智能行业的目标与数学的目标之间存在“严重的错位”。他们认为，解题只是数学实现其真正目标——概念性理解——的一种工具，以越来越快的速度大规模生产已解决的问题可能会“摧毁肥沃的土壤，而不是为新思想注入生命力”。

签署者还批评了在没有 proper write-ups 或引用相关先前工作的情况下仓促宣布AI生成的解决方案，称这引发了“严重的归属和抄袭问题”。

在 Mastodon上，陶哲轩如今更进一步。在传统数学中，对长期悬而未决的问题的证明会带来讲座、研讨会、新的合作以及被纳入教科书，吸引年轻研究者努力去理解和阐释它们。

现在他看到了相反的情形。问题正被对这一领域毫无兴趣的AI用户自主解决，他们对结果的理解不足以回答问题或做讲座，所产生的研讨会和合作远少于传统突破。研究者们也在搁置有前景的方向，担心竞争对手会抢先解决。

对陶哲轩来说，这种损害是不可逆的。一旦一个问题被认为已被解决，就不可能再变回未解决状态。即使仅仅知道解存在，也会——用他的话说——“污染”对其他可能带来更多洞见的方法的探索。解决方案正在被大规模“收割”，使数学的整个分支变得不如从前肥沃。

陶哲轩认为，“Math 2.0”时代必须停止把解题作为衡量进展的主要标准，转而重视解释、社区建设以及新研究方向的开拓，并对训练、发表和职业晋升的评判方式作出相应改变。

这建立在陶哲轩2024年提出的“工业数学“愿景出自2024年，不过在那个人版本的设想中，节奏仍由人类掌控。AI本应像引擎辅助棋手那样辅助数学家，实现广泛但相对浅层的研究，与人类专家的深入工作形成互补。如今，陶哲轩看到这些角色发生了逆转。AI在解决深层次问题，而人类在事后消化这些结果。 与许多其他专家一样，陶哲轩显然 严重低估了AI发展的速度.

三小时的AI算力现在可以媲美一位数学家的整个职业生涯

Aaronson通过他妻子Dana Moshkovitz的经历展示了这对个体研究者意味着什么，她将整个职业生涯都奉献给了理论计算机科学中的一个开放问题——唯一博弈猜想（Unique Games Conjecture）。此次发布的内容中包含对它的一个声称的证明。

在发布当晚发给Aaronson的短信中，她写道：“感觉像是某个嗑了致幻剂的人写出来的东西。”文档中许多内容不清晰。这篇论文引用了大量文献却不解释它们为何适用，尽管早先的结果本应排除这一点。

“基本上这篇论文写得糟糕透顶，没有AI帮助根本没法读，”Moshkovitz说。该证明依赖一个全新的、怪异的构造，她将其描述为“某种外星式的疯狂”。

Aaronson还列举了来自复杂性理论、数论和算法研究的其他结果，包括在几个尚未解决的Clay千禧年难题上取得的部分进展。在他看来，其中任何一项单独拿出来都足以位列年度顶级成果。

然而，发布内容中有一个领域明显缺席：密码学。Aaronson援引未具名消息称，AI公司现在正在暗中探测 密码协议和密码原语中的弱点 。总共测试了大约8,000个问题，成功率约为百分之五，每个问题平均使用GPT-Pro级别的三小时算力。所用的模型很可能也是OpenAI当前的内部模型，它可能在未来几个月内向付费的ChatGPT用户发布。

数学家们对抵制是否有用意见不一

陶哲轩博客文章下的评论显示了该领域的分歧程度。几位评论者支持抵制，并提议研究者停用OpenAI的产品，同时呼吁更好地保护arXiv等预印本服务器免受训练数据的大规模收集。

其他人则认为AHM的立场不切实际，认为OpenAI不会停止数学方面的工作，而且公开成果比私下成果更好。另一位评论者提出疑问：当作者和其他人都没有完全理解证明时，一个问题是否真的算得上被解决了。就Navier-Stokes方程而言，这一成果是否真正加深了任何人对流体动力学的理解，目前仍不清楚。

AGMAI本身 采取了比AHM更为外交的立场，将此次发布视为第一步，对这些成果的数学理解才刚刚开始。不过，该组织警告说，数学研究的未来不能仅仅建立在消化AI实验室产出的成果之上。

"数学家必须能够提出自己的问题，发展自己的方法，并探索那些未被选定为AI系统能力展示示例的方向。公平获得强大的研究工具和充足计算资源对于这种自由至关重要，"该组织写道。

AI News Without the Hype – Curated by Humans

订阅THE DECODER，享受无广告阅读、每周AI通讯、每年六期独家"AI Radar"前沿报告、完整档案访问权限以及评论区的访问权限。

阅读全文了解完整情况。
订阅无炒作的报道。

• 完整访问THE DECODER上的所有文章
• 无广告
• 参与评论和社区讨论
• 每周通过邮件获取AI新闻回顾
• 每年6期："AI Radar"——深入剖析最重要的AI话题
• 每日AI新闻，始终保持最新
• 我们完整的十年档案
• 由拥有10年以上AI经验的团队报道