Artificial Analysis Articles更新于

NVIDIA 发布 Nemotron 3.5 Super VL 和 Nemotron 3.5 Bolt 74B A9B

英伟达发布Nemotron 3.5 Super VL与Bolt 74B-A9B开源权重模型。Super VL以智能指数26分居美国开源模型之首,每任务输出token较前代减少约60%,但仍落后于阿联酋与中国模型。

配图来源 · Artificial Analysis Articles

NVIDIA 发布 Nemotron 3.5 Super 和 Nemotron 3.5 Bolt

查看模型页面

NVIDIA 的 Nemotron 3.5 Super VL 现已成为领先的美国开放权重模型,在 Artificial Analysis 智能指数中得分为 26

Nemotron 3.5 Super VL 的智能水平是其前身 Nemotron 3 Super (13) 的两倍,且每个任务所用的输出 token 约减少 60%

它与其新 Bolt 系列的首个模型 Nemotron 3.5 Bolt 74B-A9B 一同发布,后者在智能指数中得分为 21

核心要点:

➤ 领先的美国开放权重模型: Nemotron 3.5 Super VL 得分 26.5,略胜 Thinking Machines 的 Inkling Small (25.7),领先于 NVIDIA 的 Nemotron 3 Ultra (23) 和 Meta 的 Muse Glimmer (17)

➤ Bolt 与 Ultra 相差不到 2 分: Nemotron 3.5 Bolt 74B-A9B 得分 21,落后 Nemotron 3 Ultra 550B A55B (23) 1.5 分。其总参数量约为 Ultra 的七分之一(74B 对 550B),活跃参数量约为其六分之一(9B 对 55B)

➤ Super 3.5 在 NVFP4 下几乎无损: Nemotron 3.5 Super VL 以 NVFP4 格式发布,在智能指数上与其 BF16 权重的差距在 0.1 分以内,且没有任何组件的变化超过 2.6 分

Nemotron 3.5 Super VL 详情

  • 上下文窗口: 1M tokens
  • 模态: 视觉和文本输入;文本输出
  • 参数:120B / 12B

Nemotron 3.5 Bolt 74B-A9B 详情

  • 上下文窗口: 256k tokens
  • 模态:视觉和文本输入;文本输出
  • 参数:74B / 9B

Nemotron 3.5 Super - 美国开放权重领先者

Nemotron 3.5 Super VL 是得分最高的美国开放权重模型,在智能指数上得分为 26。它略胜 Thinking Machines 的 Inkling Small (26),并超越了 NVIDIA 之前的旗舰模型 Nemotron 3 Ultra (23) 和 Meta 的 Muse Glimmer (17)

尽管取得了这一进展,美国在开放权重智能方面仍落后于阿拉伯联合酋长国(K2 Horizon 375B A23B,31)和中国(MiMo-V2.6-Pro,46)。

Nemotron 3.5 Super - Token 使用量

Nemotron 3.5 Super VL 在每个 Intelligence Index 任务中使用 46k 输出 token,比其前代 Nemotron 3 Super(114k)少约 60%,也少于 K2 Horizon 375B A23B(52k)和 MiMo-V2.6-Pro(64k)

尽管 token 效率明显提升,Nemotron 3.5 Super 在 Intelligence Index 与每任务输出 token 的前沿曲线上仍有明显差距

Nemotron 3.5 Super - 输出速度

在提供 NVFP4 权重的预发布 @DeepInfra 端点上测量,Nemotron 3.5 Super VL 在 100k-token 提示下达到约 630 tokens/s 的输出速度。这是我们在该提示长度下测量过的所有 Intelligence Index 得分 20 及以上的模型中最快的

这约为 Inkling Small(124 tokens/s)的 5 倍、Nemotron 3 Ultra(235)的 2.7 倍,以及 Nemotron 3 Super(140)的 4.5 倍。它的首个 token 返回时间为 1.8s,而 Nemotron 3 Ultra 为 4.4s,Inkling Small 为 8.5s

Nemotron 3.5 Bolt

Nemotron 3.5 Bolt 74B-A9B 是 NVIDIA 全新 Bolt 系列中的首款模型。它在 Intelligence Index 上得分 21.4,在 100B 参数以下的模型中排名第 4,并在该级别的美国模型中排名第一

Bolt 比 Nemotron 3 Super(12.8)高出 8.6 分,而总参数量少 39%。与 Nemotron 3 Ultra 相比,它在 AutomationBench-AA(15.5% 对 3.0%)和 AA-Briefcase(912 对 874 Elo)上领先,但在 AA-LCR(70% 对 79%)和 Humanity's Last Exam(25% 对 28%)上落后

Nemotron 3.5 Bolt - Token 使用量

Nemotron 3.5 Bolt 74B-A9B 在每个 Intelligence Index 任务中使用 82k 输出 token,是 Nemotron 3.5 Super VL(46k)的 1.8 倍和 Nemotron 3 Ultra(28k)的 2.9 倍,但仍比 Nemotron 3 Super(114k)少 28%

原始出处

Artificial Analysis Articles

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准