Nous Research 发布了 Arete-27B，这是阿里巴巴 Qwen3.8-27B的监督微调版本。Arete-27B 是一个 27B 开放权重模型，可从 Qwen 的回答中剔除中国官方叙事框架。在 Nous 自己的 803 条提示词评估中，包含宣传内容的回答从 22% 降至 0.9%。开发者可以获得 Qwen 级别的智能体能力，而无需面对与官方口径一致的回答。 权重、评估和训练数据 全部公开。
TL;DR
- 规模： 27B 稠密参数（全部激活）。以 64k 上下文训练。基础模型 Qwen3.8-27B 原生支持 262,144 个 token。
- 运行环境： BF16 权重为 53.81 GB。社区 Q4_K_M 量化版为 17.20 GB，适用于 24 GB 消费级 GPU。
- 性能： 在 Nous 运行的基准测试上能力不变；政治叙事框架现已与西方模型一致。
- 最佳： 宣传率 0.9%，相比基础模型 Qwen3.8-27B 的 22% 有所下降。
- 最差： 事实得分 2.98（满分 5）；803 条回答中仍有 216 条得分为 0。
什么是 Arete-27B？
Arete-27B 是 Qwen3.8-27B 经过 纯监督微调后的版本。Nous 未使用 RL、偏好优化或任何架构改动。许可证为 Apache 2.0，与基础模型一致。
Nous 团队表示，他们在基础模型中观察到敏感话题上的拒答、回避以及带有中共框架的回答。他们选择 Qwen3.8-27B 是因为它是能力最强的本地模型，并且表现出目标行为。
Arete-27B 是如何训练的？
教师模型是 Inkling，这是 Thinking Machines 的一个开放模型。Nous 选择开放的教师模型是为了避免蒸馏方面的使用条款限制。他们在发现 Nemotron 3 Ultra 在中国话题上记录不佳后拒绝了它。
训练涵盖约 52.8 百万 token，上下文为 64k，未使用序列打包。整个训练运行了 2 个 epoch、1,202 步，批量大小为 48。它使用了 AdamW，峰值学习率为 1e-5，张量并行度为 4。
所有语言模型权重均被训练。视觉编码器保持冻结，因为数据仅含文本。多 token 预测头被禁用。
已发布的 arete-data-pairs 数据集包含 34,878 个提示，涵盖 7 个主题。每个提示都有一个 Inkling 答案和一个 Qwen 答案。29,236 个被接受的教师答案构成了 SFT 部分。
宣传评估是如何运作的？
该 Propaganda_Eval 数据集包含 803 个提示，涵盖 7 个价值观类别。这些类别包括言论自由、国家意识形态、数据隐私和民主。每个提示都带有来自引用来源的 2 到 4 个必需事实。
Grok 4.7 评审分别对两项内容打分：
- 事实均值（0 到 5）： 答案陈述了多少个必需事实。有一个反对的事实则得分为 0。
- 任何宣传： 采用国家说法作为自己说法的答案占比。
评审必须引用确切的短语才能标记宣传。Nous 移除了每一个与评估重叠的训练提示。该评估采用 MIT 许可证，并包含评分脚本。
基准测试显示了什么？
在 模型卡页面上，Arete-27B 将事实均值从 2.32 提升到 2.98。宣传率从 22% 下降到 0.9%。得分为 0 的答案从 803 个中的 359 个下降到 216 个。
最大的变化出现在言论自由方面。事实得分从 0.89 上升到 2.44，宣传率从 60% 下降到 1%。
能力在 Nous 的测试中保持稳定。Hermes Bench 从 65.77% 变为 65.60%，Nous 称之为噪声。Terminal-Bench-2.1 在 Nous 的测试框架中从 67% 上升到 70%。Nous 并未将这一提升归功于自己。
Arete-27B 的比较情况如何？
| 指标 | Arete-27B | Qwen3.8-27B | Muse Glimmer 30B | Gemma 4 31B |
|---|---|---|---|---|
| 开发者 | Nous Research | 阿里巴巴通义千问（Qwen） | Meta | Google DeepMind |
| 参数量 | 27B 稠密 | 27B 语言模型，稠密 | 29.6B 含视觉部分，稠密 | 30.7B，稠密 |
| 上下文 | 未披露（以 64k 训练） | 262,144 原生，最高 1M | 131,072+ | 256K |
| 许可证 | Apache 2.0 | Apache 2.0 | Apache 2.0 | Apache 2.0 |
| 输入 | 文本、图像（编码器冻结） | 文本、图像、视频 | 文本、图像 | 文本、图像 |
| 4-bit 占用 | 17.20 GB Q4_K_M（社区版） | 未披露 | 低于 20 GB，目标 24 GB 显存 | 未披露 |
| Fact mean，Nous 评测 | 2.98 | 2.32 | 3.02 | 2.58 |
| 任何宣传内容、Nous 评测 | 0.9% | 22% | 0.5% | 0.5% |
| Terminal-Bench 2.1 | 70%（Nous harness） | 67% Nous harness；73.0 官方 | 51.7（Meta，terminus2） | 谷歌未披露 |
| GPQA Diamond | 未披露 | 89.2 | 83.5 | 84.3 |
注： Arete 和 Qwen 在 Nous 评测中以温度 0 运行。Muse Glimmer 和 Gemma 以 0.6 运行。Terminal-Bench 数据来自不同的 harness。
开发者如何运行它？
权重以 BF16 格式发布在 Hugging Face上。目前尚无托管推理服务商提供该模型。 社区 GGUF 量化版本 可在 llama.cpp、LM Studio 和 Ollama 中运行，大小从 8.64 GB 到 53.81 GB。GGUF 构建还包含图像投影器。
要点
- Arete-27B 将 Qwen3.8-27B 的宣传性回答从 22% 降至 0.9%。
- 该修复仅使用了 52.8M token 的普通 SFT，无需 RL。
- Hermes Bench 保持为 65.60%，基座模型为 65.77%。
- 事实召回提升至 5 分中的 2.98 分，但仍落后于同类模型。
- 权重、评测和训练数据在 Apache 2.0 和 MIT 下开源。
欢迎查看 模型权重, 技术博客, 评测集 以及 训练数据. 另外，欢迎在 Twitter 上关注我们，别忘了加入我们的 150k+ML SubReddit 并订阅 我们的简报。等等！你用Telegram吗？ 现在你也可以在Telegram上加入我们了。
需要与我们合作推广您的GitHub仓库、Hugging Face页面、产品发布或网络研讨会等吗？ 与我们联系
文章 Nous Research 发布 Arete-27B，将 Qwen3.8-27B 的宣传内容从22%降至0.9% 首发于 MarkTechPost.