DeepSeek V4.1 Flash 在 GB300 NVL72 上的速度在过去一个月内于 AA-AgentPerf（我们针对运行真实 agentic 编码工作负载的数据中心系统的基准测试）上每个 agent 的 tok/s 提升了高达 1.5 倍
这一改进来自更新的 vLLM 版本、针对 GB300 上 DeepSeek V4.1 的新 vLLM 内核、FlashInfer 自动调优、更完整的 CUDA graph 覆盖、经过调优的投机解码，以及在 NVIDIA 更新的 Dynamo + vLLM 设置中在同一 GPU 上运行 prefill 和 decode
➤ 更快的速度：单个 agent 达到 848 tok/s，从 596 提升（1.42 倍）
➤ 更高的吞吐量：每个 GPU 的吞吐量约为原来的 ~1.6 倍，每个 agent 约 ~80 tok/s