NVIDIA Nemotron 3.5 Super
NVIDIA Nemotron 3.5 Super 是一个面向编码、推理、工具使用和文档理解的视觉-语言模型。它将一个 120B 参数的混合 Mamba-2/Transformer 专家混合(mixture-of-experts)骨干(每个 token 激活 12B)与 C-RADIO 视觉编码器相结合,支持工具调用、可开关的思考模式以及最高 1M token 的上下文。
ollama run nemotron-3.5-super
一个更为紧凑的兄弟版本, Nemotron 3.5 Bolt,将 Super 蒸馏到 74B 参数(9B 激活),针对日常智能体任务进行调整,可装入 24 GB NVIDIA GPU,并借助其附带的 drafter 实现投机解码。
What's Changed
- 决策模型现已在云端可用 — 使用
clef:cloud和clef-flash:cloud即可通过 ollama.com 云端运行决策模型,无需在本地拉取 - 继续包含自定义工具调用的 OpenAI 兼容 Responses 对话时不再报错
- 云端访问失败时的错误信息更清晰:登录问题、桌面应用中的支付问题,以及来自 ChatGPT 网关的上游访问错误,现在都会说明出了什么问题
- 更新了 llama.cpp(增加 Nemotron 3.5 支持)和 MLX
新贡献者
- @willietran 在 https://github.com/ollama/ollama/pull/18986 完成了他们的首次贡献
完整更新日志: https://github.com/ollama/ollama/compare/v0.40.4...v0.40.5