预发布版 / 持续构建版:这是一个实验性构建版本,并非稳定版本。
model : Granite Switch Decision (#30676) * feat(convert): 添加 decision.chat 以支持同时也能聊天的 decision 模型 分支:GraniteSwitchDecision AI 使用情况:full (Claude + Sonnet 5.5) 签署人:Gabe Goodhart * feat(convert): 添加将 Granite Switch 作为 decision 模型的转换 该模板遵循用法示例: https://huggingface.co/ibm-granite/granite-switch-4.1-8b#guardian-and-decision-side-by-side 分支:GraniteSwitchDecision AI 使用情况:draft (Claude + Sonnet 5.5) 签署人:Gabe Goodhart * feat(common): 在 common 中添加对 chat+decision 模型的支持 分支:GraniteSwitchDecision AI 使用情况:full (Claude + Sonnet 5.5) 签署人:Gabe Goodhart * feat(common): 添加 granite switch decision 模型枚举 分支:GraniteSwitchDecision AI 使用情况:full (Claude + Sonnet 5.5) 签署人:Gabe Goodhart * feat(server): 接入 decision_chat 布尔值以支持 decision+chat 模型 分支:GraniteSwitchDecision AI 使用情况:full (Claude + Sonnet 5.5) 签署人:Gabe Goodhart * feat(server): 添加 Granite Switch decision 支持 分支:GraniteSwitchDecision AI 使用情况:draft (Claude + Sonnet 5.5) 签署人:Gabe Goodhart * docs: 更新 server README,加入 granite switch decisions / chat+decisions 分支:GraniteSwitchDecision AI 使用情况:draft (Claude + Sonnet 5.5) 签署人:Gabe Goodhart * Revert "feat(convert): 添加 decision.chat 以支持同时也能聊天的 decision 模型" 此回滚提交 952ef567647e53ac9beda7a1f79d6927240d068d。 * Revert "feat(common): 在 common 中添加对 chat+decision 模型的支持" 此回滚提交 93ed782e3a8b2fd5968732c6525c7ad29ad4bea2。 * Revert "feat(server): 接入 decision_chat 布尔值以支持 decision+chat 模型" 此回滚提交 97e9af60ddaccbd82f1eb0a488adff43b16ee095。 * fix: 如果 Granite Switch 支持 decision,那么它也总是支持文本 分支:GraniteSwitchDecision AI 使用情况:none 签署人:Gabe Goodhart * docs: 从 server README 中移除对 decision.chat 的引用 分支:GraniteSwitchDecision AI 使用情况:none 签署人:Gabe Goodhart网站: - https://llama.app
证明(Attestations): - https://github.com/ggml-org/llama.cpp/attestations/56766635
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, 已启用 KleidiAI) 已禁用 - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64(CPU) - Ubuntu arm64(CPU) - Ubuntu s390x(CPU) - Ubuntu x64(Vulkan) - Ubuntu arm64(Vulkan) - Ubuntu x64(CUDA 12) - CUDA 12.8 库 - Ubuntu x64(CUDA 13) - CUDA 13.4 库 - Ubuntu arm64(CUDA 13) - CUDA 13.4 库 - Ubuntu x64(ROCm 10.0) - Ubuntu x64(OpenVINO) - Ubuntu x64(SYCL FP32) - Ubuntu x64(SYCL FP16) - Linux arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU) - 安装指南
Android: - Android arm64(CPU) - Android arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU) - 安装指南
Windows 系统: - Windows x64(CPU)版 - Windows arm64(CPU)版 - Windows arm64(OpenCL Adreno)版 - Windows x64(CUDA 12)版 - CUDA 12.4 DLL 文件 - Windows x64(CUDA 13)版 - CUDA 13.4 DLL 文件 - Windows arm64(CUDA 13)版 - CUDA 13.4 DLL 文件 - Windows x64(Vulkan)版 - Windows arm64(Vulkan)版 - Windows x64(OpenVINO)版 - Windows x64(SYCL)版 - Windows x64(ROCm 10.0)版
openEuler: - 已禁用 - openEuler x86 架构(310p) - openEuler x86 架构(910b,ACL Graph) - openEuler aarch64 架构(310p) - openEuler aarch64 架构(910b,ACL Graph)
界面: - 界面