أولى نتائج AA-AgentPerf لـ NVIDIA Vera Rubin NVL72

كل المقالات

أولى نتائج AA-AgentPerf لـ NVIDIA Vera Rubin NVL72

النتائج الأولية لـ Vera Rubin NVL72 من NVIDIA متاحة الآن على AA-AgentPerf. يقدم النظام ما يصل إلى نحو 5.7 أضعاف إجمالي الإنتاجية لكل ميغاواط مقارنة بسابقه GB300 NVL72 على DeepSeek V4 Pro، ونحو 5.4 أضعاف على DeepSeek V4.1 Flash، ونحو 3.0 أضعاف على GLM-5.2، ونحو 2.8 أضعاف على Kimi K3. Vera Rubin هي خليفة Blackwell من NVIDIA، وVera Rubin NVL72 هو نظامها بمقياس الرف، ويحتوي على 72 وحدة معالجة رسومية Rubin و36 وحدة معالجة مركزية Vera.

أكبر فارق في الإنتاجية لكل ميغاواط مقارنة بـ GB300 NVL72، حتى 15 أكتوبر 2026

• ~5.7xDeepSeek V4 Proعند ~190 توكن/ثانية لكل مستخدم
• ~5.4xDeepSeek V4.1 Flashعند ~580 توكن/ثانية لكل مستخدم
• ~3.0xGLM-5.2عند ~165 توكن/ثانية لكل مستخدم
• ~2.8xKimi K3عند ~67 توكن/ثانية لكل مستخدم

أعباء عمل البرمجة الوكيلية (Agentic) صعبة الخدمة بكفاءة

تعمل وكلاء البرمجة في حلقة، حيث يقوم النموذج بالتفكير واستدعاء أداة، ثم تنفّذ البيئة تلك الأداة وتضيف مخرجاتها إلى المحادثة، ثم تعود المحادثة بأكملها إلى النموذج للخطوة التالية. وبما أن كل طلب يحمل كل ما سبقه، يستمر السياق في النموّ كلما قرأ الوكيل الملفات وشغّل الاختبارات وأجرى التعديلات (مع بقاء ردود النموذج نفسه قصيرة)، لذا يبدو حركة المرور الوكيلية مختلفة تمامًا عن المحادثة أو عن المطالبات ذات الطول الثابت التي تستخدمها معايير قياس الاستدلال كثيرة.

يعيد AA-AgentPerf تشغيل مسارات حقيقية لوكلاء البرمجة (ناتجة عن وكلاء يحلون مشكلات في مستودعات أكواد عامة) عند مجموعة من مستويات التزامن، حيث يعمل كل وكيل محاكى عبر ثلاثة مسارات على التوالي ويتوقف بعد كل رد لفترة استدعاء أداة مستمدة من مدد استدعاء الأدوات الحقيقية. تحمل الطلبات ما يصل إلى 132K توكن إدخال بينما تكون الردود غالبًا مجرد استدعاء أداة قصير، وفي المتوسط يكرر 97% من توكنات إدخال الطلب الطلب السابق.

إذا احتفظت منظومة الخدمة بهذه البادئة المكررة في ذاكرة KV cache الخاصة بها، فلن تحتاج إلى معالجة مسبقة إلا التوكنات التي يضيفها كل دور، بدلاً من إعادة معالجة السياق الكامل في كل مرة. في المثال أدناه، ينمو أحد المسارات الأطول من 10K إلى 116K توكن من السياق عبر 118 طلبًا، حيث يرسل الوكيل 9.7M توكن إدخال إلى النموذج إجمالًا (فقط 116K منها جديدة) ويولّد النموذج 20K توكن إخراج عبر جميع ردوده.

توكنات الإدخال لكل طلب في جلسة وكيل واحدة

• مكرر من الطلب السابق
• جديد منذ الطلب السابق

بعض الخصائص الفريدة للاستدلال الوكيلي، والتي تتطلب معاملة خاصة عند القياس المعياري، هي:

• سعة ذاكرة KV cache وإعادة استخدامها، إذ يمكن لآلاف الوكلاء المتزامنين أن يحمل كل منهم عشرات آلاف التوكنات من السياق، والتي يجب أن تبقى مخزنة مؤقتًا خلال توقفات استدعاء الأدوات وأن تُعثر عليها مجددًا للطلب التالي
• المعالجة المسبقة غير المتكافئة، حيث يضيف كل دور ما بين بضعة توكنات وعشرات الآلاف (مثلًا عندما تعيد أداة ملفًا كبيرًا) فوق بادئة مخزنة طويلة
• المخرجات القصيرة، إذ تكون العديد من الردود استدعاءات أدوات موجزة، مما يجعل زمن أول توكن وتكاليف الجدولة أكثر أهمية مما هي في التوليد الطويل

يلتقط عبء عمل AA-AgentPerf هذه الخصائص:

ما يصل إلى 132K

توكن إدخال لكل طلب، مع سياقات بحجم 1M توكن قادمة قريبًا

حتى 182

طلبات في مسار واحد

حتى 11M

رمز إدخال مُرسَل إلى النموذج عبر مسار واحد

حتى 69K

الرموز المميزة للإدخال الجديدة المضافة في دور واحد، عندما تُرجع أداة مخرجات كبيرة

حتى 5 ثوانٍ

مدة التوقف مؤقتًا لاستدعاء أداة بين طلب وطلبه التالي

97%

حصة الرموز المميزة للإدخال المكررة من الطلب السابق، في المتوسط

إحصاءات عبء عمل AA-AgentPerf عبر 500 مسار و18,997 طلبًا، مع ترميز بواسطة o200k_base. راجع المنهجية للحصول على التفاصيل الكاملة.

Vera Rubin NVL72 تتفوق على GB300 NVL72 بما يصل إلى ~5.7 ضعف لكل ميجاواط

تحتفظ Vera Rubin NVL72 بتصميمrack-scale الخاص بـ GB300 NVL72، مع 72 وحدة معالجة رسومية و36 وحدة معالجة مركزية في نطاق NVLink واحد. تحتوي كل وحدة معالجة رسومية Rubin على نفس سعة الذاكرة البالغة 288 غيغابايت كما في Blackwell Ultra، لكن بعرض نطاق ذاكرة أكبر بـ 2.4 مرة (من HBM4)، وعرض نطاق NVLink أكبر بـ 1.7 مرة، وقدرة حوسبة NVFP4 كثيفة أكبر بـ 2.3 مرة، بينما تضاعف وحدة المعالجة المركزية Vera عرض نطاق NVLink-C2C إلى وحدات المعالجة الرسومية لديها، وهو الرابط الذي يحمل أي ذاكرة تخزين مؤقت KV تُفرَّغ إلى ذاكرة وحدة المعالجة المركزية.

المواصفات الواردة من صفحات Vera Rubin NVL72, Blackwell Ultra و GB300 NVL72 لشركة NVIDIA كما كانت في أكتوبر 2026. القدرة المقاسة هي سحب القدرة الذاتي لكل وحدة معالجة رسوميات تحت الحمل (وحدة GPU وذاكرتها HBM، كما تُبلّغ عنه تقنيات القياس DCGM/SMI من NVIDIA، باستثناء وحدات المعالجة المركزية والشبكات والتبريد)، عبر التهيئات الموجودة على الحد الأمامي لكل نظام بالنسبة للنماذج الأربعة.

النتائج عبر النماذج الأربعة

يرسم كل مخطط أدناه إجمالي معدل النقل لكل ميغاواط من القدرة المقاسة لوحدات GPU مقابل سرعة الإخراج لكل مستخدم. يحسب إجمالي معدل النقل رموز الإدخال (المخزنة مؤقتًا والمُعالَجة مسبقًا حديثًا) ورموز الإخراج، مع كون نحو 96% منها إدخالًا مخزنًا مؤقتًا، وسرعة المستخدم هي المئين 25 (p25) عبر الطلبات باستثناء وقت الوصول إلى الرمز الأول، وهي السرعة التي نستشهد بها في كل المقال. كل نقطة هي تهيئة خدمة عند عدد محدد من الوكلاء، والسهم يشير إلى أكبر تقدّم لـ Vera Rubin على GB300.

• عند ذروة الإنتاجية، تخدم Vera Rubin NVL72 بمعدل 272M tokens/s لكل ميغاواط على DeepSeek V4 Pro مقابل 239M لـ GB300 NVL72 (1.14x)، و571M مقابل 395M على DeepSeek V4.1 Flash (1.45x)، و272M مقابل 201M على GLM-5.2 (1.35x)، و70M مقابل 56M على Kimi K3 (1.26x)
• تكون تقدّم Vera Rubin أكبر حيث يتراجع معدل نقل GB300، ليصل إلى نحو 5.7x على DeepSeek V4 Pro عند نحو 190 رمز/ثانية لكل مستخدم، ونحو 5.4x على DeepSeek V4.1 Flash عند نحو 580 رمز/ثانية، ونحو 3.0x على GLM-5.2 عند نحو 165 رمز/ثانية ونحو 2.8x على Kimi K3 عند نحو 67 رمز/ثانية. الانتقال من نحو 120 إلى نحو 165 رمز/ثانية لكل مستخدم على DeepSeek V4 Pro يكلّف GB300 ما نسبته 81% من معدل نقله لكل ميغاواط، مقارنة بـ 16% لـ Vera Rubin
• على مستوى كل وحدة GPU، يتسع تقدّم Vera Rubin أكثر: من 2.0x إلى 2.5x عند ذروة معدل النقل، وحتى نحو 12x على DeepSeek V4 Pro عند نحو 165 رمز/ثانية لكل مستخدم، ونحو 18x على DeepSeek V4.1 Flash عند نحو 580 رمز/ثانية، ونحو 7x على GLM-5.2 بين نحو 200 ونحو 310 رمز/ثانية ونحو 7x على Kimi K3 عند نحو 176 رمز/ثانية
• تسجّل أسرع تهيئات Vera Rubin أعلى سرعات لكل مستخدم في لوحة الصدارة لدينا لـ DeepSeek V4.1 Flash (بمعدل 906 رمز/ثانية، وهي أسرع نتيجة لأي نموذج)، وGLM-5.2 (بمعدل 408 رمز/ثانية) وKimi K3 (بمعدل 255 رمز/ثانية)

الكفاءة الأعلى في استهلاك الطاقة تخفض تكلفة تشغيل خدمة كل رمز، وبما أن مراكز بيانات الذكاء الاصطناعي تتزايد فيها المحدودية بسبب القدرة التي يمكنها سحبها أكثر من عدد المسرّعات التي يمكنها تركيبها، فإنها تتيح أيضًا خدمة عدد أكبر من الوكلاء من مركز البيانات نفسه. على سبيل المثال، عند نحو 165 رمز/ثانية لكل مستخدم، تخدم ميزانية القدرة نفسها لوحدات GPU عددًا من رموز DeepSeek V4 Pro أكبر بنحو 5 مرات على Vera Rubin NVL72 مقارنة بـ GB300 NVL72. وكل نقطة في لوحة الصدارة لدينا تأتي مع تهيئة الخدمة الكامنة وراءها في مستعرض التهيئاتلدينا، بحيث يمكن للفرق أن تبدأ من إعداد مضبوط لعتادها الخاص بدلاً من إجراء دراسة أداء خاصة بها.

تُظهر نتائج DeepSeek V4 Pro أوسع تقدّم عند السرعات العالية

يحتوي DeepSeek V4 Pro على 1.6T من المعاملات الإجمالية و49B من المعاملات النشطة، ويستخدم مزيجاً من الانتباه المتناثر المضغوط والانتباه المضغوط بكثافة للحفاظ على صغر حجم KV cache الخاص به في السياقات الطويلة.

إجمالي معدل النقل لكل ميغاواط مقابل سرعة الإخراجDeepSeek V4 Pro 0813 (الحد الأقصى)

معدل فك الترميز لكل طلب، أي رموز الإخراج في الثانية التي يتلقاها كل طلب بعد وصول الرمز الأول (باستثناء وقت الانتظار حتى استلام الرمز الأول). تعرض المخططات افتراضيًا المئين الخامس والعشرين (25th percentile) عبر الطلبات، وهو السرعة التي تجاوزتها ثلاثة أرباع الطلبات.

• عند ذروة الإنتاجية، تخدم Vera Rubin NVL72 بمعدل 272M tokens/s لكل ميغاواط عند 69 tok/s لكل مستخدم، أي 1.14x مقارنة بـ 239M لـ GB300 NVL72 عند 67 tok/s، وتبقى متقدمة بنحو 1.1x حتى نحو 120 tok/s لكل مستخدم
• تتسع الفجوة بعد نحو 130 tok/s لكل مستخدم عندما تتراجع إنتاجية GB300، حيث تخدم Vera Rubin بمعدل 174M tokens/s لكل ميغاواط عند نحو 165 tok/s لكل مستخدم مقابل 34M لتكوينات NVIDIA GB300 (5.1x)، و132M عند نحو 190 tok/s مقابل نحو 23M لـ GB300 (~5.7x). تبلغ تكوينات رفوف GB300 من NVIDIA حداً أقصى يبلغ نحو 163 tok/s لكل مستخدم، لذا تأتي بيانات خط GB300 بعد ذلك من تكوينات صغيرة من 4 وحدات معالجة رسومات بنيناها
• تعمل أسرع تهيئة لـ Vera Rubin بمعدل 298 رمز/ثانية لكل مستخدم، وفوق نحو 255 رمز/ثانية لكل مستخدم تخدم تلك تهيئات GB300 ذات 4 وحدات GPU رموزًا أكثر لكل ميغاواط من Vera Rubin، ممّا يوسّع نتائج GB300 حتى 340 رمز/ثانية
• تستغرق تهيئات Vera Rubin وقتًا أطول لإعادة الرمز الأول (بوسيط قدره 1.65 ثانية عند نحو 165 رمز/ثانية لكل مستخدم، مقارنة بـ 1.08 ثانية لـ GB300)، وعند القياس وفق السرعة من الطرف إلى الطرف، التي تشمل ذلك الانتظار، يضاهي GB300 معدل نقل Vera Rubin لكل ميغاواط أو يتفوق عليه عند معظم السرعات

تسجّل نتائج DeepSeek V4.1 Flash أعلى معدل نقل وأعلى سرعات في لوحة الصدارة لدينا

يحتوي DeepSeek V4.1 Flash على 552B من معاملات العمود الفقري، يفعّل منها 8B لكل رمز أثناء التعبئة المسبقة و16B أثناء فك الترميز، إضافة إلى ذاكرة Engram بحجم 196B من المعاملات يقرأها عن طريق البحث بالرمز. يحافظ انتباهه المتناثر وذاكرة KV cache بتنسيق FP4 على حجم KV cache عند نحو 890 بايت لكل رمز، أي نحو ربع حجم DeepSeek V4 Flash.

إجمالي معدل النقل لكل ميغاواط مقابل سرعة الإخراجDeepSeek V4.1 Flash (الحد الأقصى)

معدل فك الترميز لكل طلب، أي رموز الإخراج في الثانية التي يتلقاها كل طلب بعد وصول الرمز الأول (باستثناء وقت الانتظار حتى استلام الرمز الأول). تعرض المخططات افتراضيًا المئين الخامس والعشرين (25th percentile) عبر الطلبات، وهو السرعة التي تجاوزتها ثلاثة أرباع الطلبات.

• يبلغ ذروة أداء Vera Rubin NVL72 عند 571M رمز/ثانية لكل ميغاواط عند 68 رمز/ثانية لكل مستخدم، وهي أعلى إنتاجية لكل ميغاواط في قائمة المتصدرين لدينا عبر النماذج الأربعة جميعها، متقدمةً على ذروة B300 البالغة 433M وGB300 NVL72 البالغة 395M (عند 31 و23 رمز/ثانية لكل مستخدم)
• تتسع فجوة Vera Rubin أمام GB300 مع ارتفاع السرعة لكل مستخدم، من نحو 1.8x عند 68 tok/s إلى نحو 2.9x عند ~165 tok/s، ومن ~3.4x إلى ~3.6x بين ~230 و~350 tok/s، وصولاً إلى ~5.4x عند ~580 tok/s لكل مستخدم بتكوين من 12 وحدة معالجة رسومية يوزّع فك التشفير على خمسة عمال (workers)
• أسرع نتيجة لـ Vera Rubin، البالغة 906 tok/s لكل مستخدم من خادم واحد بواجهات 4 GPU يخدم وكيلاً واحداً، هي أسرع نتيجة على قائمتنا المتصدرية لأي نموذج، متقدمة على 669 tok/s على B200 و596 tok/s على GB300 لـ DeepSeek V4.1 Flash
• لكل وحدة GPU، تخدم Vera Rubin 651K رمز/ثانية عند الذروة، أي 2.3x نسبة إلى 284K لـ GB300، ونحو ~6.5x خط GB300 عند ~300 tok/s لكل مستخدم

شكّلت تشغيل NVIDIA لـ Vera Rubin على DeepSeek V4.1 Flash حدود الردود عند 2,048 رمز إخراج، مقارنة بـ 16,384 لبقية نتائج DeepSeek V4.1 Flash على قائمتنا المتصدرية. نحو 2% من الردود بلغت الحد الأقصى وكان متوسط الرد أقصر بنحو العُشر (275 إلى 301 رمزاً مقابل 319 إلى 335)، وهو ما يُفضّل باعتدال إنتاجية Vera Rubin.

تُظهر نتائج GLM-5.2 تقدماً بنحو ~3x عند السرعات الأعلى

يضم GLM-5.2 قيماً إجمالية تبلغ 753B وقيم مفعّلة تبلغ 40B بارامتراً مع انتباه متناثر على طراز DeepSeek. نعرض GLM-5.2 وGLM-5.3 على مخطط متصدرية واحد لأنهما يتشاركان البنية.

الإنتاجية الإجمالية لكل ميجاواط مقابل سرعة الإخراج GLM-5.2 & 5.3 (الأقصى)

معدل فك التشفير لكل طلب، أي رموز الإخراج في الثانية التي يتلقاها كل طلب بعد وصول أول رمز (باستثناء وقت الانتظار حتى استلام أول رمز). تعرض المخططات افتراضياً المئين 25 عبر الطلبات، أي السرعة التي تجاوزتها ثلاثة أرباع الطلبات.

• تبلغ ذروة Vera Rubin NVL72 عند 272M رمز/ثانية لكل ميجاواط عند 84 tok/s لكل مستخدم، مقابل 1.35x نسبة إلى 201M لـ GB300 NVL72 عند 68 tok/s لكل مستخدم
• عند ~165 tok/s لكل مستخدم تخدم Vera Rubin 159M رمز/ثانية لكل ميجاواط، أي ~3.0x خط GB300 عند السرعة نفسها (~53M)، وتبقى الفجوة بين ~2.7x و~3x حتى ~310 tok/s لكل مستخدم
• أسرع نتيجة لـ Vera Rubin، البالغة 408 tok/s لكل مستخدم، هي أسرع نتيجة لـ GLM-5.2 على قائمتنا المتصدرية، متقدمة على 333 tok/s على B300 و330 tok/s على GB300
• قياساً إلى السرعة من الطرف إلى الطرف، التي تشمل الوقت حتى أول رمز، لا تزال Vera Rubin تخدم ما بين 1.1x و1.8x من إنتاجية GB300 لكل ميجاواط عبر النطاق كاملاً

تُظهر نتائج Kimi K3 تقدماً بنحو ~2.8x عند السرعات المتوسطة

Kimi K3 هو أكبر نموذج نستعرضه، بقيمة إجمالية تبلغ 2.8T وقيم مفعّلة تبلغ 104B بارامتراً، وبتصميم هجين يستخدم الانتباه الخطي في 69 من أصل 93 طبقة.

الإنتاجية الإجمالية لكل ميجاواط مقابل سرعة الإخراج Kimi K3 (الأقصى)

معدل فك التشفير لكل طلب، أي رموز الإخراج في الثانية التي يتلقاها كل طلب بعد وصول أول رمز (باستثناء وقت الانتظار حتى استلام أول رمز). تعرض المخططات افتراضياً المئين 25 عبر الطلبات، أي السرعة التي تجاوزتها ثلاثة أرباع الطلبات.

• تخدم كل الأنظمة رموزاً أقل بكثير لكل ميجاواط على Kimi K3 مقارنة بالنماذج الثلاثة الأخرى، حيث تبلغ ذروة Vera Rubin NVL72 عند 70M رمز/ثانية لكل ميجاواط عند 41 tok/s لكل مستخدم، أي 1.26x ذروة GB300 NVL72 البالغة 56M عند 40 tok/s
• عند ~67 tok/s لكل مستخدم تخدم Vera Rubin نحو ~2.8x إنتاجية خط GB300 لكل ميجاواط (59M مقابل ~21M)، ويخدم تكوينها ذو 30 وكيلاً نحو ~2.4x خط GB300 عند 176 tok/s لكل مستخدم (9.6M مقابل ~4.0M). تترك تكوينات Vera Rubin الحالية من NVIDIA فجوة بين ~74 و~176 tok/s لكل مستخدم
• أسرع نتيجة لـ Vera Rubin، البالغة 255 tok/s لكل مستخدم من خادم vLLM واحد بواجهات 8 GPU، هي أسرع نتيجة لـ Kimi K3 على قائمتنا المتصدرية، متقدمة على B300 (235) وGB300 (194)
• الوقت حتى أول رمز طويل عند ذروة الإنتاجية على كلا النظامين، بمئين p95 يبلغ 9.3 ثانية لتكوين Vera Rubin ذي 2,048 وكيلاً و19 ثانية لتكوين GB300 ذي 768 وكيلاً

ضبطت NVIDIA حزمة Vera Rubin الخاصة بها لأعباء العمل الوكيلية

شاركت NVIDIA كيف بنت تكوينات Vera Rubin وGB300 لديها. المجموعة الحالية من التكوينات متشابهة جداً بين Vera Rubin وGB300، لذا فإن معظم الفارق في الأداء يأتي من العتاد المطوّر للجيل الأحدث من الحوامل (racks)، إلى جانب أنوية (kernels) مخصصة مبكرة لـ Rubin وضبط خاص. تشمل التقنيات:

• تخزين KV المؤقت عبر مستويات الذاكرة. مع تكرار 97% من رموز إدخال الطلب في المتوسط من الطلب السابق، يصبح التخزين المؤقت للبادئات (prefix caching) أساسياً، وتحتاج عمليات النشر إلى كل مستويات الذاكرة من HBM إلى ذاكرة المضيف (وفي النهاية القرص). معظم تكوينات Vera Rubin تنقل KV cache إلى ذاكرة المعالج عبر NVLink-C2C التي تضاعفها Vera إلى 1.8 TB/s لكل سوبرشيب، مع تداخل النقل مع أعمال GPU الأخرى، إذ تكشف السياقات الوكيلية الطويلة عن عرض النطاق من GPU إلى CPU بطريقة لا تفعلها المطالبات الاصطناعية القصيرة. عمال prefill لنموذج DeepSeek V4 Pro لديهم 120 إلى 200 GiB من ذاكرة المضيف مخصصة لـ KV cache. أما تكوينات DeepSeek V4.1 Flash فتحتفظ بدلاً من ذلك بذاكرة Engram للنموذج البالغة 196B بارامتراً في ذاكرة المعالج بدلاً من HBM.
• التوجيه الواعي بالجلسات عبر NVIDIA Dynamo. جلسات الوكلاء تعود إلى السياق نفسه دورة بعد دورة، لذا من المفيد إرسال كل طلب إلى العامل الذي يحمل ذاكرة التخزين المؤقت الخاصة به بالفعل. كل تكوين لـ Vera Rubin يعمل خلف NVIDIA Dynamo، إطار الخدمة مفتوح المصدر من NVIDIA، الذي يُبقي أدوار كل وكيل على عامل prefill نفسه، وعلى DeepSeek V4 Pro وGLM-5.2 وKimi K3 يرسل كل طلب إلى العامل الذي يحمل أكبر جزء من بادئته في الذاكرة المؤقتة. تضيف طبقات الانتباه الخطي في Kimi K3 تعقيداً، إذ لا يمكن إرجاع حالتها التكرارية إلى نقطة سابقة كما في KV cache القياسي، فإعادة استخدامها تتطلب حفظ لقطة في الموضع الصحيح.
• الخدمة المجزأة مع توازٍ واسع للخبراء. يمكن أن يضيف الدوران (turn) من بضعة رموز (tokens) إلى عشرات الآلاف، لذلك في جميع الإعدادات عدا الأقل تزامنًا يعمل التعبئة المسبقة (prefill) على عمال منفصلين، حيث لا يعطّل خرج أداة كبير فك الترميز لكل وكلاء آخرين. تقيس NVIDIA حجم كل جانب حسب مستوى التزامن، وهو ما يعني في DeepSeek V4 Pro من واحد إلى ستة عمال تعبئة مسبقة من 4 وحدات معالجة رسومية كلما ارتفع التزامن، مع توزيع خبراء النموذج على ما يصل إلى 32 وحدة معالجة رسومية لفك الترميز ونقل ذاكرة KV المؤقتة لكل طلب من التعبئة المسبقة إلى فك الترميز عبر NVLink. تستخدم أيضًا إعدادات Kimi K3 الأعلى إنتاجية DWDP (التوازي الموزع لبيانات الأوزان)، وهي تقنية تعبئة مسبقة في TensorRT-LLM الموضحة في هذه الورقة البحثية.
• فك الترميز التخميني المضبوط حسب حجم الدفعة. تستخدم النماذج الأربعة جميعها فك الترميز التخميني (نماذج مسودة DSpark لـ DeepSeek V4 Pro وKimi K3، وصياغة DSpark المدمجة في DeepSeek V4.1 Flash، وطبقات التنبؤ متعددة الرموز الخاصة بـ GLM-5.2)، مع ضبط طول المسودة لكل مستوى تزامن، مثلًا من 7 رموز عند التزامن الأدنى إلى 3 عند الأعلى في DeepSeek V4 Pro، إذ تحقق التخمين أكبر عائد عندما تكون الدفعات صغيرة ولدى وحدات المعالجة الرسومية قدرة حوسبة فائضة. الإعداد الذي حقق نتيجة ~5.7x على DeepSeek V4 Pro، بمعدل ~190 رمزًا/ثانية لكل مستخدم، يصوغ 7 رموز.
• نوى مُضبوطة لـ Rubin. تشغّل نقاط تفتيش NVFP4 من NVIDIA خبراء MoE بدقة 4 بت على نوى NVFP4 مضبوطة لـ Rubin، إلى جانب نوى مدمجة لمعمارية كل نموذج (مثل الانتباه المتناثر وHyper-Connections في DeepSeek V4 Pro). يجب على نواة الانتباه نفسها معالجة مدخلات تتراوح من حفنة رموز إلى 1M، لذا يجب أن يغطي الضبط التلقائي نطاقات من الأشكال بدلًا من التخصص في أشكال ثابتة، وهو ما تحتاجه أحمال عمل الوكلاء الواقعية ولا تختبره المقاييس ذات الأشكال الثابتة.
• معالجة سريعة للطلبات على جانب المضيف. يحمل كل طلب المحادثة كاملة حتى الآن (حتى 132K رمزًا في حمل العمل لدينا)، لذا على الواجهة الأمامية للخدمة ترميز وإرسال تاريخ طويل في كل دور. مُوجّه Dynamo مكتوب بلغة Rust للحفاظ على زمن استجابة منخفض على جانب المضيف، وتضيف إعدادات DeepSeek V4 Pro وGLM-5.2 مُرمِّزًا سريعًا مع ذاكرة تخزين مؤقت للترميز ونقل طلبات مبسّطًا، بينما تثبّت إعدادات النماذج الأخرى كل عامل على أنوية CPU والذاكرة الأقرب إلى وحدات المعالجة الرسومية الخاصة به.

هذه نتائج أولية على Vera Rubin، مع نوى وضبط مبكرين خاصين بـ Rubin، وتتوقع NVIDIA استمرار تحسن الأداء مع وصول مزيد من التحسينات.

نظرة عامة على إعدادات Vera Rubin لكل نموذج

مزيد من القراءة

• قارن كل نظام على لوحة صدارة AA-AgentPerf
• اقرأ منهجية AA-AgentPerf و مقال الإطلاق
• تصفح إعداد التقديم الكامل وراء كل نتيجة في متصفح الإعدادات

اقرأ أحدث

أصدرت Reflection نموذج Beam، وهو أول إطلاق نموذج لها

يحقق Beam، أول نموذج من Reflection، درجة 30 على مؤشر الذكاء من Artificial Analysis، ممّا يضعه في المرتبة #2 بين النماذج الأمريكية مفتوحة الأوزان

16 أكتوبر 2026

تطلق NVIDIA الإصدارين Nemotron 3.5 Super VL و Nemotron 3.5 Bolt 74B A9B

يصبح Nemotron 3.5 Super VL من Nvidia الآن النموذج الأمريكي مفتوح الأوزان الرائد، بدرجة 26 على مؤشر الذكاء من Artificial Analysis

15 أكتوبر 2026