NVIDIA 今天发布了 Nemotron 3.5 Super VL，这是一个开放的 120 十亿参数模型，为专业的常驻智能体提供最快的任务完成速度和最高准确率。
同时发布的还有两款全新边缘模型：针对本地智能体工作负载、在每 GB 智能与速度之间实现平衡而优化的 Nemotron 3.5 Bolt 74B-A9B 24GB，以及为快速对话智能体在每 GB 智能方面优化的 Nemotron 3.5 Bolt E4B 4GB。
Super VL 和 Bolt 74B-A9B 现已发布，Bolt E4B 将于 10 月 23 日推出。
这三个 开放模型 共同覆盖了智能体部署的完整范围，从大型企业服务器一直到边缘设备和本地硬件。
任何希望在 NVIDIA 基础设施上运行智能体的组织，现在都拥有针对其层级的开放且经过优化的模型，无需在能力与可部署性之间做出取舍。
Super VL 和 Bolt 与 Nemotron 家族中的 Lightning 和 Ultra 并列。
8 月发布的 Lightning 处理高吞吐量工作负载；Ultra 处理最难的推理任务；而 Bolt 则将智能带到边缘。
Nemotron 3.5 Super VL：以五分之一的规模实现前沿准确率
Super VL 与 Nemotron Coalition合作构建，在多模态智能体任务——指令遵循、工具使用、多步骤业务工作流和视觉理解——上提供领先准确率，在参数量约为五分之一的情况下可与 NVIDIA 最大的推理模型相媲美。
作为同类中最快的开放智能体模型——比次优模型快 5 倍——它帮助企业智能体在跨越数天或数周的工作流中更快地完成高吞吐量任务。
与封闭的前沿模型不同，组织可以在自己的数据上对 Super VL 进行后训练，将其部署在自己的基础设施上，并监督其构建的内容。
Nemotron 3.5 Bolt：边缘上的智能体智能
Bolt 74B-A9B 24GB 旨在 NVIDIA RTX/DGX Spark 上本地运行日常智能体任务，采用原生 2-bit 量化以适应 24GB 内存，并与其他应用程序并行运行。
相对于具有类似内存占用的其他模型，它在智能与速度之间提供了良好的平衡：足够聪明以完成大部分工作，同时比最聪明的模型快得多。
借助 Bolt 74B-A9B 24GB，用户可以将项目委托给流行的本地智能体框架——从网络研究到写作再到调试代码——所有这些都无需将工作负载发送到云端。它是同类中排名第 1 的开放模型（ PinchBench），也是排名第 2 的开放模型（ BrowseComp.
Bolt E4B 4GB 为 GeForce RTX、Jetson 和 RTX/DGX Spark 上的物理与对话智能体而构建。它将自然对话与多轮智能体能力相结合，为快速本地语音助手、交互式角色和嵌入式界面提供动力。
定制超级智能的采用
各行业的数十家组织正在自己的数据、工具、政策和工作流上对 Super VL 进行后训练，以在其智能体部署所依赖的专门任务上实现更高的准确率。
Super VL 正在被各行业的组织进行后训练和定制。 Scale AI 为 Skydance 的供应商信贷金融代理和 EY 的并购尽职调查代理对该模型进行了后训练。AfterQuery 为 Hebbia 对该模型进行了定制，用于信贷协议分析。 AI21 和 Alice 为该模型进行了面向网络安全攻击韧性的后训练。Mercor 在 APEX-SWE 编码基准上对该模型进行了后训练，用于规划、编写和调试代码的编码代理。 ModelScope 使开发者能够通过其 ms-swift 框架对该模型进行微调，以用于专业的多模态应用。
额外对 Nemotron 3.5 Super VL 进行定制的组织包括：Ramp 用于财务文档智能；Dream 用于主权 AI 驱动的网络安全研究和漏洞分析；Lila Sciences 用于科学发现与搜索；以及 R1 用于医疗理赔分析和收入周期管理。TrainLoop 使用来自 Nolla 的皮肤病学数据对该模型进行了后训练，Nolla 刚刚成为首家获批让 AI 撰写患者初始处方的公司。
集成 Nemotron 3.5 Super VL 的软件平台公司包括：
- Atlassian, 用于诸如跨 Jira 和 Confluence 等应用的智能体搜索等任务。
- CrowdStrike，该公司正在定制该模型以用于企业安全中的智能体蓝队作战。
- Dassault Systèmes，为工程设计和仿真提供支持。
- Perplexity，用于 Perplexity Search 和 Computer 中的搜索和智能体任务。
- Salesforce，该公司正在定制 Nemotron，通过 Missionforce Operations 在安全的客户环境中为数字化和自动化复杂政府工作流的 AI 智能体提供支持。
- Synopsys 用于半导体设计验证的软件与该模型互操作。
Nemotron 3.5 Super VL 真正能看到什么
Nemotron 3.5 Super VL 的 视觉语言 优势针对的是智能体在实践中遇到的内容：光学字符识别、表格、图表以及视觉文档中的结构化信息。
它可以处理网页、提取文本、读取图形和图表，并从其发现的内容中返回洞察。这同样适用于智能体经常处理的 PDF 和其他文档。
Nemotron 3.5 Super VL 能够理解图像、网页和 PDF，并根据这种理解采取行动。将文本与视觉理解结合在一个模型中，意味着智能体无需在独立系统之间分发任务——当工作从文档流转到数据再到决策时，上下文得以全程保留。
开放以实现最大程度的控制、安全与隐私
开放性与可定制性相互促进。该模型附带开放权重、开放数据集和训练配方。
控制体现在两个方向。组织可以在其安全和数据驻留要求所决定的任何地方运行该模型。他们还选择采用一个自己可以改造的模型，而不是受制于提供商限制的模型。
例如在保险业，定制的智能体可以反复扫描理赔以查找欺诈标记。在金融服务业，智能体可以审查信用评分，并根据组织自身的放贷标准标记可疑活动。模型留在本地，数据保持私密。
定制通过 NVIDIA NeMo、基于 Python 的流水线和开放数据集得到支持。
Nemotron 3.5 Super VL 使用约 26 万亿 token 进行了训练，涵盖 预训练 以及继续预训练，随后使用约 3.8 百万个样本并跨数十个环境进行强化学习，完成了后训练。
NVIDIA 还将在 Hugging Face 上发布涵盖 智能体工具使用, 金融、指令遵循、长上下文、公平性以及视觉-语言理解,以及 NeMo Gym 中的强化学习环境。
NVIDIA NIM 将该模型打包为生产就绪的微服务,提供性能优化且经过验证的配置和企业级支持,每两周更新一次安全补丁和性能改进。
借助在 NVIDIA Dynamo 上运行的模型,组织可以服务多达 8 倍的用户,同时降低 85% 的延迟。
Nemotron 3.5 Super VL 现已在 Hugging Face、Open Router、 ModelScope 社区 上提供,并作为 NVIDIA NIM 提供。
可在 DGX Spark、DGX Station 和 RTX 上运行
Nemotron 3.5 Super VL 可在 NVIDIA 的完整硬件栈上运行:在 DGX Spark, DGX Station、 RTX PRO 和 RTX 系统上实现桌面级本地智能,在 NVIDIA Jetson 上实现边缘部署,并覆盖数据中心和云环境。
Nemotron 3.5 Bolt 74B-A9B 24GB 现已在 Hugging Face 上发布，支持 llama.cpp, Ollama, LM Studio, Unsloth，以及 vLLM。专为 NVIDIA RTX Spark 笔记本电脑 将于10月16日发布，它还可运行于 GeForce RTX PC, DGX Spark, DGX Station 以及 RTX PRO 工作站.
下载 开放权重，通过 NVIDIA NeMo 探索自定义资源，或阅读 技术博客 了解完整的架构解析。
通过订阅 NVIDIA 新闻 加入社区 ，以及在, LinkedInInstagram X, 和, Facebook 上关注 NVIDIA AI，及时了解智能体、NVIDIA Nemotron 等的最新动态。.
探索 自学视频教程和直播.
查看 通知 关于软件产品信息。