The Verge AI来源发布时间

研究人员对 OpenAI 对其突破的限制感到厌烦

周一,OpenAI 宣布了在数学、计算机科学和物理学领域的显著 突破,同时表示其研究成果的传播方式也在不断改进。然而,尽管OpenAI似乎改变了策略,但与 The Verge 交谈的研究人员对该公司的行为越来越感到厌烦。

周一,OpenAI 宣布了在数学、计算机科学和物理学领域的显著 突破,同时表示其研究成果的传播方式也在不断改进。然而,尽管OpenAI似乎改变了策略,但与 The Verge 交谈的研究人员对该公司的行为越来越感到厌烦。

OpenAI与数学家们之间经历了动荡的几个月,他们仍在努力处理数百篇预印本。 随意地扔在它们身上 10月初。这一次,OpenAI表示正在与专家“引导者”合作,以决定如何最有效地分享其最新成果。

相关

这三个成果都涉及数学、计算机科学和物理学领域中最具有重要性的未解决问题。有些进一步扩展了 OpenAI 之前的研究成果,另一些则开辟了新领域。根据 OpenAI 的“指导者”的建议,每个成果都采用了不同的发布策略。 关于数学结果,OpenAI 发布了由 AI 生成的成果,“让研究人员能够自由地安排自己的工作以解释该结果”。对于其计算机科学发现,OpenAI 还将组建一个外部研究小组“来解释该结果”。而物理学相关内容则完全没有发布,OpenAI 表示将“委托”给一个外部专家小组来决定如何发布相关材料。

  • 数学结果非常惊人。它声称能解决所有维度中的 Kakeya 猜想问题。简单来说,这个问题探讨的是需要多小的空间才能解决。 旋转针或铅笔 各个方向。纽约大学数学家洪王所取得的研究成果之一,就是三维版本的证明。 授予 今年早些时候获得的著名菲尔兹奖。布朗大学数学教授 Brendan Hassett 说道 The Verge OpenAI的声明“似乎有充分依据”,不过他强调尚未检查Lean形式化方法,这是一种用于计算验证结果的手段。
  • 该物理研究结果探讨了标准模型——物理学中最为成功且完整的理论框架。它涉及量子色动力学,该理论描述了强核力,这是自然界四种基本力之一(另外三种为引力、电磁力和弱核力),以及它与杨-米尔斯理论的关系。杨-米尔斯理论也是数学领域七个千年大奖问题中的核心问题,不过 OpenAI 的研究并未解决未解决的“质量缺口”问题。
  • 最终结果声称推翻了指数时间假设,这一假设是理论计算机科学中广泛存在的观点,认为某些问题无法以比暴力算法更快的方式解决。该结论与 P 与 NP 问题密切相关,P 与 NP 问题是千年大奖难题之一,也是该领域最大的未解问题之一,其探讨的是那些解决方案可以轻易验证的问题是否也易于解决。

由于信息披露程度不同,且评估此类研究的工作又十分复杂,研究人员很难完全判断该公司的研究结果。即便拥有所有信息,要完成这一判断也需要时间。不过,与 The Verge 的专家们表示,有充分的理由认真对待这些结果,他们将这些成果称为“巨大的”、“重大突破”以及“重要的”。

“没有道理的,只有少数杰出的科学家才能研究它们。”

但研究人员对这项科学的热情被对 OpenAI 行为的不满所削弱,这种感觉在他们经历了数月由人工智能生成的大量研究结果后变得很常见。许多人希望更广泛的社区能够开始认真审查人工智能实验室的研究结果,并质疑为什么 OpenAI 要通过挑选专家来监督整个过程而设置额外的障碍。

大多数 The Verge 的专家对 OpenAI 与外部研究人员协商的决定表示欢迎,但认为公开公布结果也意味着让任何人都能审查该成果。“我同意他们像今天这样发布这些问题,”高级研究研究所的研究员康斯坦丁·科格勒说。相比之前公布的数百个结果,现在发布的三个结果更容易处理。但他对限制仅由 OpenAI 选择的专家访问的决定表示质疑。“只有少数杰出的科学家能够查看这些结果,这毫无意义,”他说。

相关

“他们自行挑选团队成员,这简直是一场灾难,”德克萨斯大学奥斯汀分校的物理教授安德烈亚斯·卡奇对 The Verge 说道。“大型实验室已经拥有足够的资源。他们不应该去决定谁会成功、谁会失败。”最初,卡奇建议通过“竞争程序”来选拔研究人员,但他也承认这可能会得到类似的团队,他称这种团队为“一流的”。后来,他质疑为什么 OpenAI “现在不能公布证明结果”,同时还应该任命其专家团队。“这样就能让所有人都能获得访问机会,同时也能表明他们重视让结果具有意义且易于理解,”他说。

我的感觉是,对于任何方法来说,都会有人感到不悦。

这正是数学与人工智能咨询小组(AGMAI)——OpenAI 的一群专家——在之前承诺要提供咨询意见的方式。该小组在公告发布前仅一天就发出警告,指出 AI 公司不应采用这种做法,因为挑选特定人员优先获取成果是“不必要的”,会损害选定研究人员的声誉,还可能导致获取机会不均、选择有偏颇以及延误等问题。相反,他们建议 AI 实验室将成果发布在学术存储库中,并附上正式证明以及关于问题选择方式的说明,同时为致力于理解这些成果的人提供资金和其他支持。

在最新结果发布后,AGMAI敦促 OpenAI “立即公开其所宣布的物理领域结果背后的自然语言和 Lean 输出”。

“虽然这些是物理学中的核心问题,但它们也是数学中的重要问题。量子杨-米尔斯理论的存在属于千年大奖问题的一部分,而在四维空间中构建相互作用的量子场理论则是数学物理数十年来一直追求的目标。”

我们对 OpenAI 请来领导这项工作的科学家怀有极大的敬意。但正如我们在最近的声明中所述,理解应该公开透明地进行,让所有人都能平等获取信息。OpenAI 表示,他们推迟发布是因为 Lean 的正式化工作尚未完成。据他们自己说,现在已经完成了,因此没有更多延迟发布的科学理由了。

哈塞特表示,公开这些研究成果还可以促进科学发展,并鼓励更广泛地采用诸如人工智能这样的新工具。“全球各地众多研究小组对这些结果进行探讨,有助于那些希望使用这些新工具的人快速采纳它们。”他说。

“基本结果在没有人类参与的情况下迅速被解决……这些论文难以阅读和验证。”

寻找一种与 OpenAI 领域研究人员沟通的方式,以让所有人满意可能是不可能的。该公司表示正在尝试不同的方法,并承认每种方法都有各自的弊端。“我的感觉是,对于任何方法来说,都会有人感到不满,”斯坦福大学数学家 Jared Duker Lichtman 说。“因此,问题就是找到最不冒犯人的方案。”

乔治亚理工学院的数学教授何小宇认为,这个问题比 OpenAI 宣布其研究成果的方式更为复杂。“这些结果非常令人印象深刻,”他说,“但我认为他们只是试图表现出对结果发布方式的负责与谨慎,却无法改变主要问题:那些基础成果在没有人类参与的情况下被迅速解决,而且相关论文难以阅读和验证。”

关注这个故事中的主题和作者,以便在您的个性化主页信息流中看到更多类似内容,并接收电子邮件更新。
原始出处

The Verge AI

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准