بالإضافة إلى نتائجنا الجديدة لـ DeepSeek V4.1 Flash، نضيف معالج AMD MI355X إلى AA-AgentPerf لكل من Kimi K3 و GLM-5.2/5.3 و DeepSeek V4 Pro - ونقارنه بأحدث نتائجنا لأنظمة NVIDIA على أحمال عمل وكلاء البرمجة.
AA-AgentPerf هو معيار الأداء الخاص بنا للاستدلال الوكيلي (agentic inference). إنه يعيد تشغيل جلسات برمجة وكيلية حقيقية، بما في ذلك تخزين التوجيهات المؤقت (prompt caching) وتأخيرات استدعاءات الأدوات، لتقديم مقياس واقعي لأداء الاستدلال في أحمال العمل الوكيلية اليومية.
MI355X هو المسرّع الرئيسي من AMD في سلسلة MI350، الذي أُطلق في يونيو 2025 على معماريته CDNA 4. يمتلك نفس سعة 288 جيجابايت من HBM3E بمعدل 8 تيرابايت/ثانية كما في NVIDIA B300، ونحو 10 PFLOPS من عمليات FP4 الكثيفة (مقابل B300 عند ~13.5 و B200 عند ~9)، وقدرة لوحية تصل إلى 1,400 واط. جميع نتائجنا لـ MI355X تستخدم إصدارات ROCm nightly وإصدارات dev من vLLM و SGLang.
نفتتح النتائج لمعالج AMD MI355X على عقدة واحدة ذات 8 وحدات معالجة رسومية عبر النماذج الأربعة المميزة في AA-AgentPerf. النتائج على لوحة الصدارة لدينا حية وستتطور مع الوقت - ونتطلع إلى تتبع تحسينات البرمجيات/الخدمة على أجهزة AMD.
النتائج الأولية على MI355X:
➤ أقوى نتيجة له هي على DeepSeek V4 Pro 0813، حيث يقدم MI355X نحو ~15% إلى 40% إضافية من الإنتاجية لكل ميغاواط مقارنة بـ B200 بين 35 و75 رمز/ثانية لكل مستخدم، على الأرجح بفضل ذاكرة HBM سعتها 288GB لكل وحدة معالجة رسومية (B200 لديه 180GB) في نموذج بـ 1.6T تريليون معامل
➤ على DeepSeek V4.1 Flash، يكون أداء MI355X متساويًا مع NVIDIA Blackwell لوكيل واحد عند 647 tok/s (B300 عند 652، وB200 عند 669)، لكنه يتخلف مع ارتفاع الحمل، ليصل إلى نحو 128M رمز/ثانية لكل ميغاواط عند 100 tok/s لكل مستخدم مقابل نحو 193M لـ B200 ونحو 220M لـ B300
➤ على GLM-5.2/5.3، يتخلف MI355X عن B200 وB300 عند 100 tok/s لكل مستخدم، بنحو 26M رمز/ثانية لكل ميغاواط مقابل نحو 42M و44M على التوالي
➤ على Kimi K3 (2.8T معلمة)، يخدم MI355X نحو 8M رمز/ثانية لكل ميغاواط عند 50 tok/s لكل مستخدم مقابل نحو 24M لـ B300 باستخدام تكوينات NVIDIA متعددة العقد، و152 tok/s لوكيل واحد مقابل 235