除了我们全新的 DeepSeek V4.1 Flash 结果外，我们还将 AMD 的 MI355X 加入到 AA-AgentPerf 中，用于测试 Kimi K3、GLM-5.2/5.3 和 DeepSeek V4 Pro，并将其与我们最新的 NVIDIA 系统在编码代理工作负载上的结果进行对比。
AA-AgentPerf 是我们的代理式推理性能基准测试。它重放真实的代理式编码会话，包括提示缓存和工具调用延迟，以对日常代理式工作负载中的推理性能进行真实的衡量。
MI355X 是 AMD MI350 系列中的旗舰加速器，于 2025 年 6 月基于其 CDNA 4 架构发布。它拥有与 NVIDIA B300 相同的 288GB HBM3E，带宽为 8TB/s，约 10 PFLOPS 的密集 FP4 计算能力（相比之下 B300 约为 ~13.5，B200 约为 ~9），板卡功耗高达 1,400W。我们所有的 MI355X 结果均使用 ROCm nightly 以及 vLLM 和 SGLang 的 dev 构建版本。
我们首次发布了 AMD MI355X 在单台 8-GPU 节点上运行全部四个 AA-AgentPerf 特色模型的结果。我们排行榜上的结果是实时的，并会随时间演变——我们期待持续跟踪 AMD 硬件上的软件/服务改进。
MI355X 上的初步结果：
➤ 其最强的结果是在 DeepSeek V4 Pro 0813 上，在每用户 35 到 75 tok/s 之间，MI355X 每兆瓦的吞吐量比 B200 高出约 15% 到 40%，这可能得益于其每 GPU 288GB 的 HBM（B200 为 180GB）在该 1.6T 参数模型上的优势
➤ 在 DeepSeek V4.1 Flash 上，MI355X 在单代理 647 tok/s 时与 NVIDIA Blackwell 相当（B300 为 652，B200 为 669），但随着负载增加而落后，在每用户 100 tok/s 时达到每兆瓦约 128M tokens/s，而 B200 约为 ~193M，B300 约为 ~220M
➤ 在 GLM-5.2/5.3 上，在每用户 100 tok/s 时，MI355X 落后于 B200 和 B300，每兆瓦约 26M tokens/s，而两者分别约为 ~42M 和 ~44M
➤ 在 Kimi K3（2.8T 参数）上，在每用户 50 tok/s 时，MI355X 每兆瓦约为 8M tokens/s，而使用 NVIDIA 多节点配置的 B300 约为 ~24M；单代理方面，MI355X 为 152 tok/s，而 B300 为 235