StepFun 已发布 Step 5 Preview 以开放权重形式。FP8 和 BF16 检查点已在 Hugging Face 和 ModelScope上线。Step 5 Preview 是 StepFun 推出的稀疏专家混合模型，专为长程智能体工作而构建。它拥有 600B 总参数、每 token 激活 27B，并支持高达 1M token 的上下文。对开发者而言，这是编码智能体、文档分析和金融工作流的一个新的可自托管选项。
TL;DR
- 规模： 600B 总参数，每 token 激活 27B，支持高达 1M token 的上下文。
- 运行环境： 仅限数据中心 GPU。FP8 需要 4x B300 或 8x H200。BF16 需要 8x B300 或 16x H200。
- 性能： 在编码方面接近开放权重同类模型 GLM-5.3 和 Kimi K3。落后于 GPT-6 Astra 和 Claude Opus 5。
- 最佳： 在 AA-LCR 长上下文推理（Artificial Analysis）上达到 88.3%。
- 最差： 在 Terminal-Bench 4.0 上为 33.3%，而 GLM-5.3 为 41.9%。
什么是 Step 5 Preview？
Step 5 Preview 是 StepFun 面向智能体工作的旗舰模型。StepFun 将其定位于软件工程、专业知识工作和金融领域。该模型能够在大型代码库中导航、协调多文件更改、运行代码并迭代结果。它还能分析长文档、图表、截图和视频，以生成结构化报告。
该 API 于 9 月 20 日发布。权重随后于 10 月 14 日发布.
架构是如何运作的？
每 token 仅激活 600B 参数中的 27B。StepFun 的 技术团队 补充内部细节：
- 深度： 采用窄而深的架构，共 92 个 transformer 块。
- 注意力混合： 门控滑动窗口注意力与全注意力层，以 3:1 交错排列。
- 稀疏 GQA： 全注意力层为每个查询挑选 4,096 个历史 token，按每块 8 个进行评分。
- 投机解码： 一个 MTP-3 头带来大约 30% 的端到端加速。
- 训练： FP8 混合精度，并在百万级可验证的智能体环境中进行强化学习。
Step 5 Preview 在基准测试中表现如何？
StepFun 在 High 推理设置下进行了自己的评估。其图表中的竞争对手 则以 Max 档运行，因此这一对比并非同等条件。
- DeepSWE v1.1： 67.7（SWE-agent harness，temperature 1.0，top_p 0.95）
- Terminal-Bench 4.0： 33.3
- Agents’ Last Exam（ALE-CLI）： 29.5
独立数据来自 Artificial Analysis via OpenRouter。该模型在 Intelligence Index 上得分为 43.7。它在 AA-LCR 上达到 88.3%，在 Humanity’s Last Exam 上达到 46.5%。GDPval-AA 落在 54.3%。
Vals AI 的结果显示出明显的薄弱环节。SRE Bench 为 0.4%。Harvey 的 Legal Agent Benchmark 为 9.2%。
在金融方面，StepFun 的图表显示 在 FrontierFinance 上为 66.4%。这超过了 GLM-5.3 和 Kimi K3，但落后于得分为 69.7% 的 Claude Opus 5。
它与其他开放权重模型相比如何？
| 功能 | 第5步预览 | GLM-5.3 | Kimi K3 |
|---|---|---|---|
| 总参数量 | 600B | 753B（HF 文件大小) | 2.8T |
| 激活参数 | 27B | 未披露 | 104B |
| 上下文窗口 | 1M | 1M | 1M |
| 输入模态 | 文本、图像（API 另支持视频） | 仅文本 | 文本、图像 |
| 权重格式 | FP8、BF16 | BF16、FP8 | MXFP4 权重 |
| 许可证 | StepFun Model License 1.0 | GLM-5.3 许可证 | Kimi K3 许可证 |
| 公开的最低自托管配置 | 4x B300（FP8） | 未披露 | 未披露 |
| DeepSWE v1.1（StepFun 报告） | 67.7 | 66.9 | 67.5 |
| Terminal-Bench 4.0(StepFun报告的) | 33.3 | 41.9 | 12.6 |
| FrontierFinance（StepFun 报道） | 66.4 | 64.1 | 62.6 |
| 每 1M tokens 的 API 价格(输入 / 输出) | $1.00 / $2.70 | 未披露 | $3.00 / $15.00 |
基准测试数据行来自 StepFun 的对比图表， 由 CellCog 转录 以及 eesel.
Step 5 Preview 需要什么硬件才能运行？
这是一个数据中心模型。仅FP8检查点就 650.32 GB. 列出的配置:
- 在 vLLM 或 SGLang 上使用 FP8： 4 块 B300 GPU 或 8 块 H200 GPU,每项均在 1 个节点上。
- vLLM 上的 BF16： 1个配备8块B300 GPU的节点，或2个配备16块H200 GPU的节点。
- 变形金刚： 仅支持离线生成。完整的 BF16 分片工作流程尚未经过端到端验证。
vLLM 和 SGLang 发布 专用 Docker 镜像 以及与 OpenAI 兼容的 API。在 Blackwell 上,专家并行模式使用 MegaMoE 后端。StepFun 建议使用 temperature 1.0、top_p 0.95 和 top_k 0。
这个API的费用是多少？
该 StepFun API 输入 token 每百万（1M）收费 1.00 美元，输出 token 每百万（1M）收费 2.70 美元。缓存命中费用为每 1M 0.10 美元。输出定价包含推理 token。该 API 支持低、中、高三档推理强度、工具调用以及 JSON Schema 输出。
要点
- 600B MoE，27B激活参数，1M上下文，现以FP8和BF16开放权重。
- 所列出的最小自托管配置:4x B300 GPU,采用FP8。
- 最佳独立成绩:AA-LCR 长上下文推理达 88.3%。
- 最弱项：Terminal-Bench 4.0 上为 33.3%。
- API 每 1M token 输入费用为 1.00 美元，输出费用为 2.70 美元。
请查看 Hugging Face 上的模型权重, GitHub 仓库, 技术博客, BF16 权重, ModelScope 以及 API 文档。所有功劳归于该项目的研究者。此外，欢迎在 Twitter 上关注我们，别忘了加入我们的 150k+ ML SubReddit 并订阅 我们的新闻通讯。等等！你在用 Telegram 吗？ 现在你也可以在 Telegram 上加入我们。
这篇文章 StepFun 发布 Step 5 Preview 开放权重：600B MoE、27B 激活参数、1M 上下文 首发于 MarkTechPost.