MarkTechPost

Inception 以每秒 1,068 个 token 的速度发布 Mercury 3 扩散 LLM

Inception发布扩散语言模型Mercury 3,以并行方式生成文本,自称速度达1,068 tokens每秒并支持1M token上下文。其自报基准中12项有8项领先GPT-6 Luna与Haiku 5.5,但为厂商自报数据,仅经API提供。

Inception 发布了 Mercury 3,这是其扩散语言模型的最新版本。Mercury 3 是来自 Inception 的扩散大语言模型,它以并行方式生成答案,而不是逐个 token 生成。Inception 报告在 NVIDIA GPU 上达到每秒 1,068 个 token,以及 1M token 的上下文窗口。在 Inception 自己的基准测试表中,它在 12 项测试中的 8 项上领先于 GPT-6 Luna 和 Claude Haiku 5.5。对于构建智能体、语音机器人和搜索工具的开发者来说,这是一个以速度为先且得分具有竞争力的模型。

TL;DR

  • 规模: 参数未公开。Inception 表示其规模比 Mercury 1 大 40 倍以上。上下文为 1M token。
  • 运行环境: 由 Inception 提供服务的 NVIDIA GPU(具体 GPU 未公开)。仅提供 API,无开放权重或量化版本。
  • 性能: 对比 GPT-6 Luna 和 Haiku 5.5,在 12 项基准测试中的 8 项上领先(自行报告,中等设置)。
  • 最佳: SWE-Bench Atlas 51.08,比两个竞争对手均领先约 18 分。
  • 最差: DeepSWE v1 46.31,落后 Haiku 5.5(51.62)5.31 分。

什么是 Mercury 3?

Mercury 3 是 Inception 继 Mercury 1、Mercury 2 和 Mercury 2.5 之后的第四个 Mercury 版本。Mercury 1 于 2025 年发布。Mercury 2.5 增加了可调节推理功能和 260K 上下文窗口,详见 Inception 的 发布公告.

1/4 今天,我们发布了 Mercury 3。Mercury 3 是我们迄今为止最强大的模型,也是有史以来发布的最智能的扩散 LLM。它在质量上超越 GPT-6 Luna 和 Haiku 5.5,同时以 1000+ tok/sec 的速度运行。 pic.twitter.com/TYevDl43Lm

— Stefano Ermon (@StefanoErmon) 2026年10月19日

扩散 LLM 是如何工作的?

自回归模型逐个写入 token。每个新 token 都要等待前一个 token。扩散 LLM 从完整答案的粗略草稿开始,然后在几次并行传递中细化每个位置。

更少的顺序步骤意味着在相同的 GPU 上输出更快。悬而未决的问题是,随着模型规模变大,这种方法是否依然有效。

扩散模型能规模化吗?

在这里,Inception 的答案是肯定的。Mercury 3 的总参数量是 Mercury 1(mini)的 40 倍以上。这 2 个模型之间,标准基准测试的平均质量提升了约 3 倍。速度保持在每秒 1,000 个 token 以上。

Inception 团队将其绘制为横跨 5 个 Mercury 世代的质量与规模曲线。

Mercury 3 在基准测试中表现如何?

以下所有分数均来自 Inception的表格。所有模型均以中等设置运行。

Mercury 3在指令遵循和智能体编程方面取得最大提升。IFBench达到76.84,比GPT-6 Luna高出15分。SWE-Bench Atlas达到51.08,而Luna为33.33,Haiku 5.5为32.26。GPQA Diamond达到89.23。

失利之处同样值得关注。Haiku 5.5在DeepSWE v1(51.62对46.31)和MRCR v2(78.40对75.50)上获胜。GPT-6 Luna在AA-Omniscience-Public(46.94对46.44)和AA-LCR v1.1(78.30对77.67)上略胜一筹。长上下文检索和更长的编程任务仍是薄弱环节。

Mercury 3 vs GPT-6 Luna vs Claude Haiku 5.5

特性Mercury 3GPT-6 LunaClaude Haiku 5.5
开发者InceptionOpenAIAnthropic
生成方法扩散(并行精炼)未披露未披露
参数量未披露未披露未披露
上下文窗口1M1.05M1M
最大输出未披露128K128K
输入模态未披露文本、图像文本、图像
开放权重否(API)否(API)否(API)
输出速度(Inception 的测量方式)1,068 tok/s~130 tok/s~240 tok/s
价格,美元/1M 输入 / 输出$0.20 / $0.70 官方价($0.10 / $0.35 发布价)$0.10 / $0.50 (短上下文)$0.10 / $0.50(提示词最多 100K)
GPQA Diamond89.2386.3684.51
IFBench76.8461.8254.65
SWE-Bench Atlas51.0833.3332.26
DeepSWE v146.3137.7651.62
MRCR v275.5062.7278.40

速度和基准测试行:Inception 的表格,中等设置。规格和价格:各供应商自己的文档。

早期用户反馈了什么?

Inception 引用了 4 个早期访问合作伙伴。这些是客户声明,并非独立评测。

  • TinyFish 运行了 50 个真实的 Mind2Web 网页导航任务。Mercury 3 完成了其中 50%。Inception 称这击败了 GPT-6.1-Sol,但没有给出 Sol 的数字。
  • Octen AI 报告智能眼镜搜索的中位数生成时间为 0.9 秒,端到端时间为 2.2 秒。
  • RevisionDojo 表示提示和标记答案的返回时间约为 1 秒。
  • Lorikeet 表示 Mercury 3 在支持坐席的延迟和评测方面击败了其他模型。

开发者如何使用 Mercury 3?

Mercury 3 已上线于 Inception API Platform, OpenRouter, Baseten 和 Vercel。该 API 与 OpenAI 兼容。 文档 使用模型字符串 mercury-3 以及一个 reasoning_effort 参数。

标准定价为每 1M 输入 token 0.20 美元,每 1M 输出 token 0.70 美元。发布时享 50% 折扣:0.10 美元和 0.35 美元。缓存输入享 90% 折扣。新账户可获得 100M 免费 token。企业计划增加专用容量、自动扩展和可配置的数据保留。

Inception 还发布了 2 个同系模型:

  • Mercury Voice 旨在缩短语音代理中首个答案 token 的响应时间。
  • Mercury Decide 是一个分类模型。

要点总结

  • Mercury 3 是一个扩散式 LLM,声称达到 1,068 tok/s 和 1M 上下文。
  • 在对比 GPT-6 Luna 和 Haiku 5.5 的 12 项厂商自测基准中,它在 8 项上领先。
  • 最大优势:SWE-Bench Atlas 51.08 和 IFBench 76.84。
  • Haiku 5.5 仍在 DeepSWE v1 和 MRCR v2 上获胜。
  • 发布价格为 $0.10 / $0.35,之后将升至 $0.20 / $0.70。


请查看 官方发布博客、 API 文档 以及 OpenRouter 列表。另请阅读我们此前对 Drex 1.5的报道。所有功劳归功于该项目的研究者。此外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ML SubReddit 并订阅 我们的新闻通讯。等等!你用 Telegram 吗? 现在你也可以在 Telegram 上加入我们了。

本文《 Inception 发布每秒 1,068 个 token 的 Mercury 3 扩散式 LLM 》最先发布于 MarkTechPost.

原始出处

MarkTechPost

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准