关键要点
- 前 Deepmind 研究人员 Thore Graepel 创立了 Metis Reasoning，旨在让人工智能系统更加可靠且可验证，并以 AlphaGo 的方法为蓝本。
- 该方法将知识与模型权重分离，并存储在外部账本中，由独立模块根据证据对各项假设进行验证。
- 该方法旨在减少幻觉现象，并提供有依据的解释，但目前它仅作为一种理论框架存在，没有实际运作的系统。
前 Deepmind 研究人员 Thore Graepel 希望构建能够追踪所掌握信息并依据证据验证每个结论的 AI 系统。他的团队表示，更大型的语言模型无法解决这一问题。
Thore Graepel认为，那种在2016年让AlphaGo击败围棋职业选手李石东的想法，也可以使人工智能系统更加可靠，包括机器人领域。这位前Deepmind研究人员创立了Metis Reasoning，并在柏林的Nvidia GTC会议上提出了这一方法，该芯片制造商正在扩大其机器人技术和物理人工智能平台。 将机器人技术中的数据问题转化为计算问题.
知识账本而非嵌入模型权重中的知识
根据 Metis 的说法，如今的语言模型实际上只是 AlphaGo 的预测网络，该网络会提出可能的操作方案。AlphaGo 将这一网络与对游戏序列的系统性搜索相结合。 找到著名的第 37 步该行动本可以让人类玩家有大约一万次中的一次机会成功。Metis希望将这种搜索方式引入一般推理中。
这样做需要公司论文中所说的那种明确知识账本，类似于游戏棋盘。类似的方案已经存在：微软的 GraphRAG 将模型权重之外的知识组织成知识图；谷歌的 AlphaGeometry2 则将语言模型与符号引擎相结合，以验证数学证明。Metis 希望将这些原理应用到现实世界中的开放问题上。
其知识记录册记录了已知信息、系统的置信程度以及仍待解答的问题。一个独立模块会针对新录入的内容，通过计算、正式证明或实证证据进行验证；当某个假设不再成立时，所有依赖该假设的结论都会被重新评估。 “移动”可以是一个问题、一个实验，或对现有假设的挑战；系统会选择能最大程度减少原始问题不确定性的方式，最终要么给出答案，要么选择不回应。
与 AlphaGo 类似，两个神经网络负责提出并评估操作方案，这些网络经过对以往数据的训练，但无法突破验证规则。Metis 指出，这种设置能够减少幻觉现象，提供带有来源引用的解释，以及可以无需重新训练即可更改或删除的知识。由于推理过程分为多个小步骤，这种方法也可能更适合在边缘设备及机器人上运行的小型模型。
公司仍然不信任语言模型，不足以将其部署使用
根据 Metis 的说法，更多的数据与计算可以提升语言模型，但无法解决技术的根本问题：这些模型只能生成答案，其推理链条无法被验证，而它们的知识则被锁定在权重之中。 幻觉源自训练过程本身论文认为，因为模型学会生成看似合理的文本而非真实的文本，甚至 当今推理模型中的思维链条往往无法体现出来 答案实际上是如何得出的。
该论文指出，这就是人工智能迄今为止对经济的影响如此之小的原因。当智能体代表公司行动时，错误很难追溯其来源，错误的知识也无法从模型中移除。人工智能在软件工程领域取得发展是因为代码易于测试和回退，但在医学、金融、芯片设计和机器人技术领域，该论文认为人工智能需要从基础开始就能得到验证。
白皮书仅描述了一个研究计划，没有实际系统，也没有基准测试，也没有与当前推理模型进行对比。团队承认，与 Go 不同，现实世界只提供部分信息，证据获取可能成本较高，有些问题根本无法得到答案。 最大的未解问题在于：在教科书示例之外的复杂领域中，如何形成经过验证的知识记录册？因为符号人工智能系统曾经失败，正是因为所有的知识都必须手动输入。
在 Silver 和 Rocktäschel 之后，另一位 Deepmind 老将独立完成了操作
根据他的网站信息，格拉佩尔于2001年在柏林获得了机器学习博士学位。在微软研究院期间，他参与了TrueSkill的构建工作，该系统是Xbox Live匹配机制的核心。之后他转至Deepmind，在那里从事相关工作。 AlphaGo, AlphaZero， MuZero在 Altos Labs 工作一段时间后，他最近加入了 Google Deepmind 的 AGI 项目团队，并在夏季离开了该团队。他还在伦敦大学学院担任机器学习教授一职。 根据彭博社的数据Graepel 正在为 Metis 筹集数千万美元的资金，同时计划以更高的估值筹集数亿美元后续投资。
他是 Deepmind 最著名成果的最新架构师，致力于打造超出 Google 范畴的产品。前同事大卫·西尔弗 创立 难以言喻的智慧 并完成了欧洲初创企业中最大规模的融资轮。Tim Rocktäschel 是联合创始人之一 递归目前价值 46.5 亿美元。其他产品则直接被销给竞争对手。据《金融时报》报道，Deepmind 解散了 AlphaFold 背后的团队，诺贝尔奖得主约翰·詹珀与两位同事一起前往Anthropic。CNBC 追踪人才流失 部分原因是对谷歌 TPU 芯片的内部访问受限以及官僚主义问题，同时 Deepmind 自身也存在这些问题 失去独立性 创始人 Demis Hassabis 已从日常运营中退居幕后。
来源：Metis Reasoning