IT之家 AI原文 · 中文

Underdog AI 发布 Saluki 27B 模型:2-bit 量化 Qwen3.8-27B,7.89GB 大小

人工智能实验室 Underdog AI 发布 Saluki 27B 模型,它是 Qwen3.8-27B 的 2-bit 量化调优版本,仅保留文字 I/O,文件只有 7.89GB。官方称其面向智能体应用,擅长日常推理和工具使用,工具选择与多工具并行调用甚至优于全尺寸 Qwen3.8-27B,但数学表现逊色;模型采用标准 llama.cpp 格式可直接加载。文中性能说明均为厂商表述。

配图来源 · IT之家 AI

IT之家 10 月 10 日消息,人工智能实验室 Underdog AI 本月发布了 Saluki 27B 模型。该模型是 Qwen3.8-27B 的 2-bit 量化调优版本,仅保留文字 I/O 能力,文件大小则仅有 7.89 GB。

Underdog 表示,Saluki 针对智能体应用设计,长于日常推理和工具使用,数学表现则相对逊色。其工具选择和多工具并行调用表现甚至优于全尺寸的 Qwen3.8-27B。

Saluki 模型使用标准的 llama.cpp 格式,可在标准的 llama.cpp 以及基于它构建的应用程序中加载,无需任何自定义编译。

参考

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。

原始出处

IT之家 AI

内容说明

原始发布及相关权利归来源方。