GB300 NVL72上のDeepSeek V4.1 Flashの速度は、過去1か月でAA-AgentPerf（現実的なエージェント型コーディングワークロードを実行するデータセンターシステムの当社ベンチマーク）において、エージェントあたり最大1.5倍のtok/sに向上しました
この向上は、より新しいvLLMバージョン、GB300上のDeepSeek V4.1向けの新vLLMカーネル、FlashInferのオートチューニング、より完全なCUDAグラフカバレッジ、調整されたspeculative decoding、そしてNVIDIAの更新版Dynamo + vLLM構成においてprefillとdecodeを同じGPU上で実行することによるものです
➤ 高速化：単一エージェントで848 tok/s、従来の596から向上（1.42倍）
➤ 高スループット：GPUあたり約1.6倍のスループット、エージェントあたり約80 tok/s