CLI 中的决策模型
现在可以直接从终端使用决策模型了 ollama run — 提出是/否问题,对文本进行分类,或根据评分标准打分:
ollama run nimble --ask "Is a refund being requested?" < ticket.txt
## 已更改内容
* MLX 运行器现在支持 Kev 决策模型,适用于 Apple 芯片设备
* 无需升级到付费计划,即可使用 ollama launch 并享受使用额度
* ollama launch codex 现在在模型选择器中包含本地安装的 Ollama 模型。可在 Codex CLI 中使用 /model 来切换模型
* 通过复用已验证的清单和已加载模型,推理性能得到提升
* 通过 llama-server 增加了多模态嵌入的支持
* 解决了在较小上下文窗口下加载多模态嵌入模型的问题
* 使用 MLX 运行器时,Gemma 4 在 NVIDIA GPU 上的预填充性能得到提升
* MLX 运行器现在会裁剪过长的 Laya 状态,而非直接拒绝它们
* MLX 运行器的推测性解码可靠性得到提升,包括回滚后 recurrent 状态的处理也更为完善
* 更新了 llama.cpp,支持本地决策模型
* 更新了 README 和文档,隐私和云服务相关的表述更加清晰
完整更新日志: https://github.com/ollama/ollama/compare/v0.40.3...v0.40.4