نيماترون 3.5 سوبر VL من إنفيديا هو نموذج مفتوح مصمم لتشغيل وكلاء الذكاء الاصطناعي المؤسسي بشكل مستمر

نيماترون 3.5 سوبر VL من إنفيديا هو نموذج مفتوح مصمم لتشغيل وكلاء الذكاء الاصطناعي المؤسسي بشكل مستمر

النقاط الرئيسية

• أطلقت إنفيديا Nemotron 3.5 Super VL، وهو نموذج مفتوح متعدد الوسائط يحتوي على 120 مليار معامل مصمم لمهام الوكلاء وتحليل المستندات في البيئات المؤسسية.
• يستهدف نموذجان أصغر من فئة Bolt الأجهزة المحلية: نموذج مضغوط بشكل كبير لأنظمة بذاكرة 24 GB أو أكثر، وإصدار لاحق بحجم 4 GB للمساعدين الصوتيين.
• تنشر إنفيديا مجموعات البيانات ووصفات التدريب إلى جانب أوزان النموذج، لكنها تُحسّن كل شيء لأجهزتها الخاصة لدفع مبيعات الرقائق والأنظمة.

أطلقت إنفيديا Nemotron 3.5 Super VL، وهو نموذج مفتوح متعدد الوسائط يحتوي على 120 مليار معامل مصمم للوكلاء المؤسسيين. ويُطلق بالتوازي معه نموذجان مدمجان من فئة Bolt مصممان لإحضار وكلاء الذكاء الاصطناعي إلى أجهزة الكمبيوتر المحلية وأجهزة الطرف.

بُني Nemotron 3.5 Super VL لوكلاء متخصصين يعملون بشكل مستمر في الخلفية، معالجين النصوص والصور والمستندات والفيديوهات.

كما تشرح الشركة في منشور مدني تقني، تستخدم بنية Mixture-of-Experts حيث يكون 12 مليار معامل فقط من أصل 120 مليار معامل نشطاً لكل رمز. طورت إنفيديا النموذج مع تحالف Nemotron Coalition، وهي مجموعة تضم Mistral AI وThinking Machines Lab وPerplexity وBlack Forest Labs.

يصل نموذجان أصغر للأجهزة المحلية في الوقت نفسه. يعمل Nemotron 3.5 Bolt 74B-A9B 24GB على مهام الوكلاء في الأجهزة المحلية، بينما يستهدف النموذج الأصغر Bolt E4B 4GB المساعدين الصوتيين السريعين وسيتبع في وقت لاحق من هذا الشهر. ويقدم النموذجان "أعلى ذكاء لكل جيجابايت من الذاكرة"، كما تدعي إنفيديا.إعلان

ينضم Super VL وBolt إلى تشكيلة Nemotron الحالية. Lightning، التي أُطلقت في أغسطس، مصممة للإنتاجية العالية، بينما Ultra تتولى مهام الاستدلال الصعبة. كل نسخة مُحسّنة لأجهزة إنفيديا.

تدعي إنفيديا أن أكبر نماذجها يحقق دقة نموذج أكبر بخمس مرات حجمه

استخرجت إنفيديا Super VL بالتقطير من Nemotron 3 Ultra، وهو أكبر نماذجها الاستدلالية. في المهام التي يتبع فيها الوكيل التعليمات، أو يستدعي الأدوات، أو يعالج عمليات الأعمال متعددة الخطوات، أو يحلل الصور، يُفترض أن يحقق Super VL دقة Ultra بمعاملات تبلغ نحو خمس عدد معاملاتها فقط. في اختبارات الوكلاء من Hermes وLangChain، سجل فعلياً درجات أعلى من Ultra وفقاً لإنفيديا، كما يتفوق على سابقه Nemotron 3 Super في معياري البرمجة SWE-bench وTerminal-Bench.

على وحدة معالجة رسومات واحدة، يحقق Super VL ما يصل إلى خمسة أضعاف إنتاجية النماذج المفتوحة الأخرى ذات الحجم المماثل في مهام الوكلاء، وفقاً لإنفيديا، مستشهدةً بلوحة تصنيف Artificial Analysis. في اختبار مستقل أجرته EXO Labs على DGX Spark، لم يكن هناك أي نموذج آخر أكثر دقة وأسرع في آن واحد. وتتجلى قيمة هذه الميزة السرعية عندما يحتاج الوكلاء إلى معالجة أحجام كبيرة من المهام على مدى أيام أو أسابيع.

في مواجهة النماذج المغلقة الرائدة، تقدم إنفيديا Super VL للشركات التي ترغب في الضبط الدقيق ببياناتها الخاصة وتشغيل النموذج على خوادمها الخاصة، بعيداً عن شروط خدمة مزود ما. تقول إنفيديا إن ذلك قد يجذب شركة تأمين تفحص المطالبات باستمرار بحثاً عن الاحتيال، أو شركة خدمات مالية تقيّم الجدارة الائتمانية وفق معاييرها الخاصة. وللتخصيص، توفر الشركة إطار NeMo الخاص بها، وخطوط أنابيب Python، ومجموعات بيانات مفتوحة.إعلان

الضغط والتخزين المؤقت يقللان الحمل الحاسوبي

تضغط Nvidia نموذج Super VL بصيغة NVFP4 ذات 4 بت. على وحدات Blackwell GPU يعمل النموذج بالكامل بدقة 4 بت، بينما تخزّن البطاقات الأقدم الأوزان فقط بدقة 4 بت وتجري العمليات الحسابية بدقة 16 بت. تحتفظ الأجزاء الحساسة من النموذج بدقة أعلى. ولمنع فقدان الجودة، درّبت Nvidia النسخة المضغوطة لتطابق مخرجات النسخة الأصلية غير المضغوطة.

يقترح مكوّن مسودة مدمج عدة رموز مسبقًا، ثم يتحقق منها النموذج الرئيسي في تمريرة أمامية واحدة. على جهاز DGX Spark، توصي Nvidia بطريقتها الخاصة LiLiCorr بدلًا من ذلك، والتي تقيّم جميع رموز المسودة معًا للحصول على مخرجات أكثر تماسكًا. تقول Nvidia إن هذا الأسلوب يسرّع توليد النصوص حتى 2.3x مقارنة بالتشغيل دون مسودات استباقية.

يرسل الوكلاء التعليمات نفسها وأوصاف الأدوات وسجل المحادثة مع كل طلب، لذا يخزّن Super VL مؤقتًا عمليات الحساب لهذه الأجزاء المتكررة بدلًا من إعادة تشغيلها في كل مرة. برنامج الاستدلال من Nvidia Dynamo يوجّه أيضًا الطلبات القادمة من الجلسة نفسها إلى وحدة GPU التي تحتفظ بالفعل بذاكرة التخزين المؤقت لتلك الجلسة. على 16 وحدة B200 GPU، يتيح ذلك لـ Super VL خدمة ثمانية أضعاف عدد المستخدمين المتزامنين، وينخفض الزمن حتى أول رمز بنسبة 85 بالمئة.

يقرأ Super VL الجداول والرسوم البيانية وملفات PDF دون الحاجة إلى نموذج رؤية منفصل

في مجال الرؤية، ركزت Nvidia على نوع المواد التي يواجهها الوكلاء في عملهم اليومي، بما في ذلك التعرف الضوئي على الحروف (OCR) والجداول والرسوم البيانية والمستندات متعددة الصفحات والفيديوهات. يمكن لـ Super VL تفسير رسم بياني وربطه بجدول في مكان آخر من المستند نفسه وتلخيص كليهما دون الحاجة إلى نموذج صور منفصل.

في معيار الرسوم البيانية CharXiv، يحصل Super VL على 80.8 بالمئة وفقًا لشركة Nvidia، بينما حقق النموذج الأقدم Nemotron 3 Nano Omni ‏63 بالمئة. وعندما يستطيع النموذج أيضًا تشغيل كود Python، يرتفع الفارق إلى 84 بالمئة. وفي لوحة تصنيف OCRBench v2، يُصنّف بين أفضل النماذج المفتوحة، بحسب Nvidia.

لا يزال الوكلاء المحليون يتطلبون عتادًا باهظ الثمن

‏Bolt 74B-A9B 24GB هي نسخة مختصرة من Super VL بُنيت كنموذج هجين من نوع Mixture-of-Entities حيث لا يوجد سوى 9 من أصل 74 مليار معلمة نشطة في كل خطوة. ولدفعها إلى ذاكرة بحجم 24 GB، تطبق Nvidia تكميمًا (quantization) عنيفًا بدقة 2 بت على الأوزان.

يتعامل Bolt مع المهام المحلية اليومية التي يحتاج فيها الوكيل إلى تنفيذ خطوات متعددة، أو استدعاء أدوات، أو البحث في الويب. يمكن للمستخدمين أن يطلبوا منه كتابة الكود وتصحيحه أو معرفة أي مكونات كمبيوتر تناسب أجهزتهم، وفقًا لشركة Nvidia.

النموذج محسّن لمعالجات Nvidia RTX Spark، شريحة جديدة لأجهزة الكمبيوتر المحمولة التي تعمل بنظام Windows وتدعم الذكاء الاصطناعيوكذلك DGX Spark، محطة عمل ذكاء اصطناعي مضغوطة بذاكرة مشتركة تصل إلى 128 GB. كما يعمل على أجهزة GeForce RTX PC وDGX Station ومحطات العمل RTX PRO، ويدعم llama.cpp وOllama وLM Studio وvLLM.

حتى مع الضغط الشديد، تظل 24 GB عائقًا كبيرًا. فقط العتاد الراقي باهظ الثمن يوفر هذه السعة من الذاكرة، وبأسعار GPU الحالية، لا يستطيع معظم المستهلكين تبرير التكلفة. في الوقت الحالي، يستهدف الوكيل المحلي المطورين وأصحاب محطات العمل القوية.

للأجهزة الأضعف، تخطط Nvidia لإطلاق Bolt E4B 4GB، لكنه لم يُطرح بعد. صُمم ليعمل على بطاقات GeForce RTX ووحدات Jetson وRTX/DGX Spark، بما يشغّل المساعدين الصوتيين أو الشخصيات التفاعلية أو واجهات الأجهزة. من المفترض أن يجري النموذج محادثات طبيعية مع استخدام الأدوات عبر أدوار متعددة والبقاء على دراية بما يحدث في التطبيق الحالي.

المتبنون الأوائل يمتدون من التمويل إلى الأمن السيبراني

تقول Nvidia إن عشرات المنظمات تُدرّب حاليًا نموذج Super VL على احتياجاتها الخاصة، بشكل رئيسي في الصناعات ذات الأحمال الوثائقية الكبيرة والبيانات الحساسة. قامت Scale AI بتكييف النموذج لوكيل يتعامل مع أرصدة الموردين في شركة الإعلام Skydance، مع توقع انخفاض التكاليف إلى واحد من أصل أربعين وزمن الاستجابة إلى الخُمس. تستخدم Ramp النموذج لتحويل صور الإيصالات إلى بيانات مهيكلة وتتوقع استجابات أسرع عشر مرات. تستخدمه EY في العناية الواجبة للإستحواذ، وHebbia في تحليل اتفاقيات الائتمان.

الموجة الثانية من المتبنين تأتي من قطاع الأمن السيبراني. قامت AI21 بضبط Super VL لصالح شركة الأمن Alice، التي تستخدمه لتحليل التهديدات والثغرات، مع تحسن الدقة بنسبة 40 بالمئة وفقًا لشركة Nvidia. تستخدم Dream النموذج للبحث عن الثغرات، وتقوم CrowdStrike ببناء وكلاء للدفاع عن شبكات المؤسسات. تخطط Salesforce لأتمتة سير العمل الحكومي، وتدقق R1 في الفواتير الطبية، كما تستخدم Perplexity وDassault Systèmes وMercor النموذج أيضًا.

تنشر Nvidia مجموعات بيانات ووصفات تدريب

تصدر Nvidia الأوزان في نسخة أساسية، ونسخة مدرَّبة لاحقًا، ونسخة مضغوطة بدقة 4 بت، إلى جانب مجموعات البيانات ووصفات التدريب وبيئات التعلم المعزز. هذا يجعل Super VL أكثر انفتاحًا من كثير من النماذج ذات الأوزان المفتوحة، التي تشارك عادةً الأوزان فقط.

تقول Nvidia إن النموذج تم تدريبه على أكثر من 25 تريليون رمز (token) خلال التدريب المسبق والتدريب المسبق المستمر، فيما أضاف التدريب اللاحق والتعلم المعزز نحو أربعة ملايين مثال عبر حوالي 100 بيئة تدريب مفتوحة.

على Hugging Face، تقوم Nvidia أيضًا بإصدار عدة مجموعات بيانات يمكن للمطورين الآخرين استخدامها لتدريب نماذجهم الخاصة أو ضبطها بدقة. تغطي كيفية استخدام الوكلاء للأدوات، واتباع التعليمات، والتعامل مع النصوص الطويلة، وفهم الصور، بينما تتناول مجموعات بيانات أخرى التمويل والسلامة والإنصاف.

إحدى مجموعات البيانات تستهدف اللغات المنطوقة في الهند. بنتها Nvidia بالتعاون مع معهد الهند التقني في مدراس ومختبر الذكاء الاصطناعي التابع له AI4Bharat، وتحتوي على حوالي 2.83 تريليون رمز من النصوص بـ 22 لغة هندية.

النماذج المفتوحة تبيع عتاد Nvidia

يعمل Super VL على أنظمة سطح المكتب مثل DGX Spark وDGX Station وRTX PRO وRTX، وعلى وحدات Jetson في الأجهزة الطرفية، وفي مراكز البيانات والسحابة. ومن خلال Nvidia NIM، تحصل المؤسسات على النموذج كخدمة مصغرة جاهزة للنشر مع إعدادات موثقة ودعم، مع خطط لتحديثات كل أسبوعين. الأوزان متاحة على Hugging Face لـ Nemotron 3.5 Super VL 120B-A12B و Nemotron 3.5 Bolt 74B-A9B 24GB.

تُصدر Nvidia النماذج بشكل مفتوح لكنها تضبطها لتناسب منتجاتها الخاصة، من خوادم مراكز البيانات إلى محطات العمل. وكل من يريد الاستفادة القصوى من Nemotron ينتهي به الأمر إلى شراء عتاد Nvidia.

إن الاستراتيجية الكامنة وراء نماذج Nvidia المفتوحة تخدم مصلحتها الذاتية. فكلما زاد عدد الشركات التي تشغّل نماذجها المفتوحة، زاد الطلب على عتاد الحوسبة، ومن المرجح أن تظل النماذج المفتوحة محسّنة لـ Nvidia في المستقبل المنظور. وفي الوقت نفسه، تقوم شركات مثل Meta وGoogle وAnthropic وOpenAI ببناء شرائحها الخاصة وتحسين النماذج لتلك الشرائح بدلاً من ذلك. ولدفع انتشار نماذج الذكاء الاصطناعي المفتوحة أبعد من ذلك، استثمرت Nvidia مؤخرًا 12.9 مليار دولار في Hugging Face، إحدى أهم المنصات لتطوير ومشاركة هذه النماذج.

أخبار الذكاء الاصطناعي دون ضجيج – يختارها بشر

اشترك في THE DECODER للحصول على قراءة خالية من الإعلانات، ونشرة أسبوعية عن الذكاء الاصطناعي، وتقريرنا الحصري "AI Radar" عن أحدث التطورات ست مرات في السنة، ووصول كامل إلى الأرشيف، وإلى قسم التعليقات لدينا.