En plus de nos nouveaux résultats DeepSeek V4.1 Flash, nous ajoutons le MI355X d’AMD à AA-AgentPerf pour Kimi K3, GLM-5.2/5.3 et DeepSeek V4 Pro – en comparaison avec nos derniers résultats pour les systèmes NVIDIA sur les charges de travail d’agents de codage.
AA-AgentPerf est notre critère de mesure de la performance d’inférence des agents. Il reproduit des sessions de codage réelles d’agents, y compris le stockage du prompt et les retards liés aux appels aux outils, afin de fournir une mesure réaliste de la performance d’inférence dans les tâches quotidiennes d’agents.
Le MI355X est l’accélérateur phare d’AMD dans la série MI350, lancé en juin 2025 sur son architecture CDNA 4. Il dispose de 288 GB de HBM3E à 8 TB/s, identique à celui du B300 de NVIDIA ; il offre environ 10 PFLOPS de calcul dense en FP4 (contre environ 13,5 pour le B300 et 9 pour le B200) et une puissance de carte allant jusqu’à 1 400 W. Tous nos résultats avec le MI355X utilisent ROCm, les builds nocturnes et les builds de développement de vLLM et SGLang.
Nous publions pour la première fois les résultats du MI355X d’AMD sur un seul nœud de 8 GPU, pour les quatre modèles AA-AgentPerf présentés. Les résultats sur notre classement sont en temps réel et évolueront au fil du temps – nous attendons avec impatience de suivre les améliorations du logiciel et des services sur l’équipement AMD.
Résultats initiaux sur MI355X:
➤ Son résultat le plus fort se manifeste sur DeepSeek V4 Pro 0813, où MI355X offre entre 15 % et 40 % de débit supérieur par MW par rapport au B200, avec 35 à 75 tok/s par utilisateur, probablement grâce à ses 288GB d’HBM par GPU (le B200 dispose de 180GB). Cela se produit sur un modèle à 1,6T de paramètres.
➤ Sur DeepSeek V4.1 Flash, le MI355X est aligné avec NVIDIA Blackwell pour un agent unique à 647 tok/s (B300 à 652, B200 à 669), mais il est en retard lorsque la charge augmente, atteignant environ 128M tokens/s par MW à 100 tok/s par utilisateur, contre environ 193M pour B200 et environ 220M pour B300
➤ Sur GLM-5.2/5.3, les MI355X suivent les B200 et B300 à 100 tok/s par utilisateur, avec environ 26M tokens/s par MW contre respectivement ~42M et ~44M
➤ Avec les paramètres de Kimi K3 (2,8T), MI355X génère environ 8M tokens/s par MW à 50 tokens/s par utilisateur, contre environ 24M pour B300 en utilisant les configurations multi-nœuds NVIDIA, et 152 tokens/s pour un seul agent contre 235