Nvidia 于周四发布了新的开放权重模型,专为全天候运行的智能体和边缘计算而设计。
Nemotron 3.5 Super VL 是一个拥有 120 十亿参数的大型模型,面向企业使用的智能体。虽然它使用的参数少于 Nemotron 3 Ultra 模型少,但 Nvidia 表示它在指令遵循和工具使用任务中可以提供相当的准确性。
在另一端,该公司还发布了两款轻量级 Bolt 模型。这些模型旨在本地运行于新的 AI PC(搭载 Nvidia RTX Spark 芯片)以及运行 DGX Spark 的工作站上。这类面向消费者、程序员和企业知识工作者的 PC 目前正 通过 Microsoft 和 Dell 等合作伙伴推向市场。
“任何希望在 Nvidia 基础设施上运行智能体的组织,现在都拥有了针对其层级优化的开放模型,无需在能力与可部署性之间做取舍,”Nvidia 开放模型与软件副总裁 Kari Briski 在博客文章中写道, 宣布了这些模型。
Nvidia 声称,在针对特定智能体任务进行后训练后,Super VL 完成任务的速度快于 Anthropic 和 OpenAI 的竞争模型(Opus 5、GPT 6.1 Sol、Luna、Astra)。这些任务包括文档智能、财务会计、科学实验、医疗保险理赔以及安全攻击韧性。
尽管每当大型科技公司发布新模型时此类声明都是标配,但 Nvidia 还拿出了一份重量级公司名单,称这些公司正在使用 Super VL。其中包括 Skydance、EY、Ramp、Crowdstrike、Perplexity 和 Salesforce.
当然,这并不是 Nvidia 第一次发布与专有前沿实验室竞争的开放权重模型——这些实验室既是它的客户,也是它的投资对象。这家 GPU 巨头拥有完整的 Nemotron 模型家族,涵盖从多模态人工智能到推理、编码、数学和企业自动化的各种任务。
然而,那些快速增长的专有 AI 实验室现在正着眼于 Nvidia 之外的许多其他芯片和 AI 系统制造商来满足其需求(例如 AWS 的 Trainium 和 Cerebras,以及打造自己的自研芯片)。
因此,Nvidia 正在大力押注于企业希望在自家数据中心运行自己的开放模型这一趋势。Briski 写道:“与封闭的前沿模型不同,组织可以在自己的数据上对 Super VL 进行后训练,部署在自己的基础设施上,并拥有自己构建的东西。”
但随着较小、本地 PC 模型的发布,它也在努力推动刚起步的消费级 AI 助手趋势。虽然初创公司和大型科技公司似乎每天都在推出新的 AI 助手,但对隐私感到担忧的消费者可能不希望让此类智能体深入到他们的生活中,获取有关其家庭、健康、财务等信息。
因此,Nvidia 希望通过打造本地运行模型和智能体的机器,为其由自家芯片驱动的 PC 开辟新市场,PC 用户“可以委派日常项目……而无需将这些工作负载发送到云端,”Briski 写道。
在两款 Bolt 模型中,Nemotron 3.5 Bolt 74B-A9B 24GB 是一款拥有 74 十亿参数的模型,专为本地智能体任务设计。它旨在平衡速度与推理能力,以处理多步推理、工具调用和网页浏览。最小的 Bolt E4B 则面向对话式智能体。
Nvidia 表示,Super VL 和 Bolt 74B-A9B 现已可用,Bolt E4B 将于本月晚些时候推出。
