IT之家 في 15 أكتوبر، أعلنت إنفيديا عن إطلاق النموذج متعدد الوسائط المفتوح Nemotron 3.5 Super VL، الموجه لوكلاء الذكاء الاصطناعي الذين يحتاجون إلى العمل المستمر وتنفيذ مهام متعددة الخطوات.
يعتمد النموذج على معمارية الخبراء المختلطين (MoE) بإجمالي معاملات يبلغ 120 مليار، منها 12 مليار معامل مفعّلة. وتقول إنفيديا إن إنتاجية النموذج عند تنفيذ مهام الوكلاء على معالج رسومي واحد قد تصل إلى 5 أضعاف إنتاجية النماذج المفتوحة الأخرى المماثلة في الحجم.
ووفقًا للمعروض، يدمج Nemotron 3.5 Super VL قدرات الاستدلال واتباع التعليمات واستدعاء الأدوات مع قدرات فهم النصوص والصور والمستندات والفيديو في نموذج واحد، ويمكن استخدامه في سيناريوهات مثل اختبار الأكواد وتصحيحها، واسترجاع المعلومات عبر المواقع، وتحليل المستندات، واكتشاف تهديدات الأمن السيبراني، واسترجاع محتوى الفيديو. ويمكن للمطورين الاستفادة من سلسلة أدوات NeMo من إنفيديا لإجراء التدريب اللاحق بدمج بياناتهم وأدواتهم وسياساتهم وسير عملهم الخاص، وتعديل سلوك النموذج وفقًا لاحتياجات الأعمال.
وأعلنت إنفيديا في الوقت نفسه عن عدة حالات تخصيص للمؤسسات. فعلى سبيل المثال، قامت شركة تقنيات بيانات الذكاء الاصطناعي Scale AI بتخصيص وكيل معالجة ائتمان الموردين لشركة الترفيه الإعلامي Skydance Corporation، ومن المتوقع أن تنخفض تكلفة الاستدلال لأحمال العمل ذات الصلة بنسبة 97.5% وأن ينخفض زمن الاستجابة بنسبة 80%.
كما تعمل منصة العمليات المالية Ramp على تحويل صور الإيصالات إلى بيانات JSON مهيكلة تتضمن التاجر والتاريخ ومعلومات الدفع، مع زيادة متوقعة في الإنتاجية تصل إلى 50% وانخفاض في زمن الاستجابة بنسبة 90%. وتعاونت AI21 مع شركة أمن الذكاء الاصطناعي Alice لتخصيص نموذج يُستخدم في الاستخبارات التهديدية وتحليل الثغرات، مع زيادة دقة المهام ذات الصلة بنسبة 40%.
وفيما يتعلق بتقييم النماذج، تقول إنفيديا إن Nemotron 3.5 Super VL حقق درجة 80.8% في اختبار CharXiv المعياري للاستدلال على الرسوم البيانية، متجاوزًا نسبة 63% لـ Nemotron 3 Nano Omni؛ وبالجمع بين تفسير كود Python بلغت الدرجة 84%.
وفي تقييمات Hermes Bench وLangChain السلوكية، حقق النموذج 63.44% و87.05% على التوالي، متجاوزًا نسبتي 56.33% و84.3% لـ Nemotron 3 Ultra. كما ذكرت إنفيديا أن النموذج يُعد من النماذج المفتوحة الأفضل أداءً في قائمة OCRBench v2.
ولخفض تكاليف الاستدلال، يعتمد Nemotron 3.5 Super VL تقنيات مثل فك التشفير التخميني والدقة المختلطة وإعادة استخدام السياق. وتوضح إنفيديا أن طريقة LiLiCorr للفك التخميني يمكنها زيادة سرعة توليد الرموز حتى 2.3 مرة على DGX Spark. كما يدعم النموذج تكميم NVFP4، مستخدمًا أوزانًا بـ 4 بت وتنشيطات بـ 4 بت على معمارية Blackwell من إنفيديا؛ وعلى المنصات غير Blackwell، يستخدم نقطة التحقق نفسها أوزانًا بـ 4 بت وتنشيطات بـ 16 بت.
كما كشفت إنفيديا عن حلول تحسين نشر موجهة للاستدلال الموزع. فبحسب البيانات المعلنة، في ظروف اختبار باستخدام 16 وحدة NVIDIA B200 GPU وتوليد 50 رمزًا في الثانية لكل مستخدم، يمكن لـ NVIDIA Dynamo بالاقتران مع التوجيه الواعي بالذاكرة المؤقتة وارتباط الجلسات وتفريغ ذاكرة KV المؤقتة خدمة عدد مستخدمين يزيد حتى 8 أضعاف، مع خفض زمن استجابة أول رمز بنسبة 85%.
ويشمل هذا الإصدار أيضًا أوزان النموذج الأساسي والنموذج المدرب لاحقًا ونموذج التكميم NVFP4، إضافة إلى وصفات التدريب ومجموعات البيانات وبيئات التعلم المعزز.
وقالت إنفيديا إن Nemotron 3.5 Super VL استخدم في مرحلتي التدريب المسبق والتدريب المسبق المستمر حوالي 26 تريليون رمز، وحوالي 3.8 مليون عينة في مرحلة التدريب اللاحق، مع تعلم معزز في عشرات البيئات. وتغطي مجموعات البيانات المفتوحة حديثًا مجالات مثل استدعاء أدوات الوكلاء والاستدلال المالي واتباع التعليمات والسياقات الطويلة والعدالة وفهم اللغة والرؤية.
وبالإضافة إلى Super VL، أطلقت إنفيديا أيضًا نموذجين من Nemotron 3.5 Bolt الموجهين للأجهزة الطرفية. يستخدم Nemotron 3.5 Bolt 74B-A9B 24GB معمارية MoE بإجمالي 74 مليار معامل و9 مليارات معامل مفعّلة، وضُغط النموذج إلى 24GB عبر تكميم أصلي بـ 2 بت، وهو موجه لمهام الوكلاء المحليين ويدعم llama.cpp وvLLM وOllama وUnsloth وLM Studio. أما Nemotron 3.5 Bolt E4B 4GB فيوجه لسيناريوهات مثل المساعدين الصوتيين المحليين والشخصيات التفاعلية وواجهات الأنظمة المدمجة، ومن المخطط إطلاقه في 23 أكتوبر.
لاحظت IT之家 أن Nemotron 3.5 Super VL وBolt 74B-A9B 24GB متاحان الآن، ويمكن للمطورين الوصول إلى موارد النماذج ذات الصلة عبر قنوات مثل Hugging Face وOpenRouter وModelScope. يمكن نشر Super VL على DGX Spark وDGX Station وأنظمة RTX أو مراكز البيانات أو السحابة؛ في حين من المخطط إطلاق Bolt E4B 4GB في 23 أكتوبر.
