新しいDeepSeek V4.1 Flashの結果に加えて、AMDのMI355XをAA-AgentPerfに追加しました。これはKimi K3、GLM-5.2/5.3、およびDeepSeek V4 Proに対してです。この比較は、コーディングエージェントワークロードにおけるNVIDIAシステムの最新結果と対照的に行われます。
AA-AgentPerfは、私たちのエージェント型推論性能ベンチマークです。プロンプトのキャッシュやツール呼び出しの遅延を含む実際のエージェント型コーディングセッションを再現することで、日常的なエージェント型ワークロードにおける推論性能を実際に測定します。
MI355Xは、CDNA 4アーキテクチャを採用した2025年6月に発売された、AMDのMI350シリーズにおける旗艦アクセラレーターです。NVIDIAのB300と同様に8TB/sの速度で288GBのHBM3Eを使用し、密集型FP4計算能力は約10 PFLOPSです（B300は約13.5、B200は約9）。ボード電力は最大1,400Wに達します。すべてのMI355Xの結果は、ROCmを利用した夜間実行およびvLLMやSGLangの開発用ビルドを用いて得られました。
4つのAA-AgentPerfモデルすべてにおいて、1つの8GPUノード上でAMDのMI355Xの結果を初公開します。私たちのランキングボード上の結果はリアルタイムで表示されており、時間とともに変化していきます。AMDハードウェアにおけるソフトウェア/サービスの改善を追跡することを楽しみにしています。
MI355Xに関する初期結果：
➤ 最も優れた結果はDeepSeek V4 Pro 0813で見られ、MI355Xはユーザーあたり35〜75tok/sの速度で、B200より毎MW当たり15％から40％のスループットが向上しています。これは、1.6Tパラメータモデル上でGPUあたり288GBのHBMを利用しているためであり、B200は180GBです。
➤ DeepSeek V4.1 Flashにおいて、MI355Xは単一エージェントで647トークス/秒の速度でNVIDIA Blackwellと同レベルです（B300は652、B200は669）。しかし、負荷が増加すると、ユーザーあたり100トークス/秒で1MWあたり約128Mトークン/秒に達し、B200では約193M、B300では約220Mに比べて遅れます。
➤ GLM-5.2/5.3では、MI355Xはユーザー1人あたり100トークス/秒でB200およびB300を追いかけ、MWあたり約26Mトークン/秒であり、それぞれ約42M、約44Mである
➤ Kimi K3（2.8Tパラメータ）では、NVIDIAのマルチノード構成を使用したB300の約24Mの場合と比べて、MWあたり約8Mトークン/秒、ユーザーあたり50トークン/秒でMI355Xが動作し、単一エージェントの場合は152トークン/秒、235に対してはそうではない。