Meta 新发布的 816B（42B 激活）开放权重模型 Muse Spark Open 的测试结果现已在 AA-AgentPerf 上线。在我们的初步测试中，该模型在 4x NVIDIA GB300 或 B300 GPU 上的吞吐量最高可达每兆瓦功率约 150M tokens/s
在 Artificial Analysis 智能指数上，Muse Spark Open 得分为 39。它是一个 MoE 模型，共有 62 层，其中 46 层使用 2,048-token 滑动窗口注意力，使 1M 上下文下的 KV 缓存需求相比全注意力降低约 75%。Meta 发布了 NVFP4 检查点，AMD 发布了 MXFP4 检查点，我们分别在 NVIDIA 和 AMD 硬件上使用这些检查点
初步结果：
➤ NVIDIA B300 和 GB300 领先，在偏重吞吐量（较低的单用户速度）的配置下，各自达到每兆瓦约 150M tokens/s。GB300 在较高输出速度时拉开差距（100 tok/s 时约 108M 对约 92M），但两者迄今为止仅在聚合服务配置下进行了测试，我们预计 GB300 相对 B300 的领先优势会随着多节点分离式配置而扩大
➤ 服务配置正在快速改进。在同一个 B300 节点上，NVIDIA 调优后的 SGLang 配置在 50-100 tok/s 下，每兆瓦吞吐量约为发布周 cookbook 配置的 1.6-1.8 倍。这些提升来自 TP4 部署以及按并发度调优的 prefill-decode 间隔，代价是更长的首 token 响应时间
➤ AMD MI355X 在 65 tok/s 下达到每兆瓦 70M tokens/s，在 65 到 100 tok/s 之间约为 B200 的 0.9 倍。AMD 10 月 22 日的配方更新（prefill-decode 和调度器间隔、更多 tokenizer 工作进程、为全注意力层提供更多 KV 缓存）使其每兆瓦性能比之前的配方提升了约 1.7 倍
我们将继续测试 Muse Spark Open 的服务配置，包括多节点分离式部署，并每周将目前找到的最佳结果和配置更新到排行榜上。我们还将发布更深入的评测，介绍在为 Muse Spark Open 优化内核、推理引擎和配置方面所取得的进展