أصدرت NVIDIA منصة NVIDIA Run:ai الكاملة كبرمجيات مفتوحة المصدر. ال كود المصدر يُشحن بموجب ترخيص Apache 2.0 على GitHub. يضع NVIDIA Run:ai مفتوح المصدر جدولة وحدات GPU الإنتاجية والحصص وإدارة أحمال العمل بين يدي المطورين. يجعل هذا الإصدار Run:ai جزءاً من منصة NVIDIA DSX AI Factory. يمكن لفرق المنصات الآن فحص الحزمة وتفرعيها واستضافتها ذاتياً دون اشتراك مدفوع.
TL;DR
- الحجم: مستودع أحادي (Monorepo) يتضمن مستوى التحكم وخدمات المجموعة والمثبِّت وواجهة CLI وخادم MCP. عمليات البناء المحلية تشمل حوالي 50 خدمة Go.
- يعمل على: مجموعات Kubernetes أو OpenShift مع وحدات NVIDIA GPU. يعمل التطوير المحلي على macOS أو Linux مع 8 وحدات Tesla-A10 GPU محاكاة، دون الحاجة إلى GPU.
- الأداء: لم تنشر NVIDIA أي معيار قياس على مستوى المنصة لهذا الإصدار.
- الأفضل: أداة Model Streamer المرتبطة حمّلت النماذج أسرع بـ 3 إلى 6 مرات على 8 أجهزة NVIDIA H100 VM على Azure.
- الأسوأ: لا تتوفر دعم مؤسسي من NVIDIA للنسخة المجتمعية. تحتاج البنيات المحلية إلى ذاكرة RAM بسعة 16 GB وقرص بسعة 100 GB على Linux.
ما هي NVIDIA Run:ai؟
NVIDIA Run:ai هي منصة من NVIDIA لتنسيق أحمال العمل الذكاء الاصطناعي ووحدات GPU لـ Kubernetes. تقوم بجدولة أحمال التطوير والتدريب والاستدلال عبر مجموعات GPU المشتركة. تعمل فوق Kubernetes ولا تستبدلها.
يتولى مستوى التحكم معالجة إرسال أحمال العمل وإدارة الموارد والمراقبة. وتعمل خدمات المجموعة على كل مجموعة Kubernetes وتضيف جدولة واعية بوحدات GPU. يصل المستخدمون إليها عبر واجهة ويب وواجهة CLI وواجهة REST API وخادم MCP للمساعدين الذكيين.
ما هي المكونات المعيارية الـ 4؟
قسّمت NVIDIA الإصدار إلى 4 مكونات يمكن للفرق تبنّيها بشكل مستقل:
- KAI Scheduler هو محرك الجدولة الأصلي في Kubernetes. وهو بموجب Apache 2.0 ومشروع CNCF Sandbox. يغطي الجدولة الجماعية (gang scheduling) والحصص العادلة الزمنية والوعي بالطوبولوجيا وتعبئة الحاويات (bin-packing) ودعم DRA.
- GPU Fractioning Operator يجلب تجزئة وحدات GPU الأصلية في CUDA 13.4 إلى Kubernetes. يفرض مشغّل CUDA حداً صارماً للذاكرة لكل حمل عمل. أوقفت NVIDIA تقنية التجزئة الاحتكارية القديمة لصالح هذا النهج. المشغّل محايد تجاه الجدولة ويصدّر مقاييس لكل Pod.
- KAI Resource Management يضيف المشاريع والأقسام والحصص ومجموعات العقد. مثال NVIDIA يضمن 50% من المجموعة لفريق بحثي.
- Workload Map هي مكتبة Go تصف أنواع أحمال العمل مثل PyTorchJob وRayCluster وخدمات KServe. تعمل دون اتصال ولا تقوم بالجدولة أو الطابور أو التحجيم التلقائي.
كيف يشغّل المطورون NVIDIA Run:ai محليًا؟
يقع دليل التطوير المحلي يقوم على 1 سكربت، local-dev.shيبني نحو 50 خدمة Go من المصدر داخل حاويات. ثم ينشئ عنقود Kind من 5 عقد مثبتًا على Kubernetes v1.32.5. ويحاكي مشغّل GPU وهمي 8 من وحدات معالجة الرسوم Tesla-A10، فلا يُطلب عتاد GPU.
- المضيفون المدعومون: macOS أو Linux، على amd64 أو arm64. ولا يُدعم Windows.
- تتطلب مضيفات Linux وجود 4 وحدات معالجة مركزية وذاكرة RAM بسعة 16 جيجابايت ومساحة قرص حرة تبلغ 100 جيجابايت.
- تحتاج أجهزة Podman الافتراضية على macOS إلى ذاكرة RAM بسعة 12 جيجابايت على الأقل.
- 1 بناء كامل يترك نحو 44 جيجابايت من ذاكرات التخزين المؤقت.
يقوم --gpu-operator بالتبديل إلى وحدات معالجة الرسوم NVIDIA الحقيقية. يتطلب هذا النمط نظام Linux وأداة Docker وNVIDIA Container Toolkit. ولا تُدعم مُسرّعات AMD وIntel.
كيف يمكن للفرق نشره في بيئة الإنتاج؟
يمكن لفرق التطوير النشر من المصدر أو من مخطط Helm الخاص بمنتج NGC المجتمعي . لا تتطلب هذه الإصدار اشتراكًا مدفوعًا، لكنه يستثني الدعم المؤسسي من NVIDIA.
ويمكن للفرق أيضاً تبنّيه عبر 8 من شركاء منظومة DSX. وهذه Crusoe, Mirantis, نِيبيوس, أوبن نيبولا سيستمز (OpenNebula Systems), رافاي, Saturn Cloud, Spectro Cloud و vCluster. تستمر الإصدارات التجارية المدعومة عبر NVIDIA AI Enterprise و NVIDIA Mission Control وبعض أسواق الحوسبة السحابية المختارة.
ما هي مشاريع المصدر المفتوح ذات الصلة التي تُشحن بجانبها؟
يُستكمل حزمة البرمجيات بمشروعين مجاورين. Model Streamer يُدفق أوزان النموذج مباشرة إلى ذاكرة وحدة المعالجة الرسومية. vLLM وSGLang يمكنّان استخدامه مع --load-format runai_streamer.
Microsoft المعيار القياسي المنشور استخدم 8 أجهزة افتراضية NVIDIA H100. وأظهر سرعة تحميل أسرع بـ 3 إلى 6 أضعاف من المُحمّل الافتراضي. وظل معدل النقل عند 80 جيجابت/ثانية مقارنة بنحو 40 جيجابت/ثانية على المسار الافتراضي.
Grove ينسّق أحمال عمل الاستدلال متعددة المكونات. ويبدأ مكونات مثل prefill وdecode كوحدات كل شيء أو لا شيء.
كيف يقارن NVIDIA Run:ai مع مجدولي Kubernetes آخرين ذوي المصدر المفتوح؟
| الميزة | NVIDIA Run:ai (مصدر مفتوح) | Volcano | Kueue | Apache YuniKorn |
|---|---|---|---|---|
| الترخيص | Apache 2.0 | Apache 2.0 | Apache 2.0 | أباتشي 2.0 |
| الحوكمة | منظمة NVIDIA DSX AI Factory (KAI Scheduler: احتضان في CNCF Sandbox) | CNCF Incubating | kubernetes-sigs (wg-batch) | مؤسسة Apache للبرمجيات |
| النطاق | المنصة الكاملة: مستوى التحكم، واجهة المستخدم، واجهة سطر الأوامر، REST API، خادم MCP | نظام جدولة الدفعات | متحكم قائمة انتظار المهام | الجدولة، كبديل للافتراضي |
| يستبدل kube-scheduler | لا، بل يوسّعه بـ KAI Scheduler | غير معلن | لا | نعم، كبديل |
| الجدولة الجماعية (Gang Scheduling) | نعم | نعم | الكل أو لا شيء بناءً على المهلة الزمنية | نعم |
| التسلسل الهرمي للحصص | المشاريع والأقسام ومجموعات العقد | طوابير متعددة المستويات | مجموعات ومشاركة عادلة | طوابير هرمية |
| مشاركة GPU | أجزاء CUDA 13.4 الأصلية مع حدود صارمة للذاكرة | vGPU وMIG ديناميكي | حصة GPU قائمة على DRA؛ التقسيم إلى أجزاء غير مذكور في النظرة العامة | غير معلن |
| مدرك للطوبولوجيا | نعم | نعم | نعم | غير معلن |
| متعدد المجموعات | نعم، عبر مستوى التحكم | نعم | نعم، عبر MultiKueue | غير معلن |
| واجهة مستخدم ويب | نعم | مشروع لوحة تحكم منفصل | غير معلن | غير معلن |
الفرق الرئيسي هو النطاق. يركز Volcano وKueue وYuniKorn على الجدولة أو الطوابير. أما Run:ai فيقدم منصة إدارة كاملة فوق مجدوله.
الخلاصات الرئيسية
- أصبح NVIDIA Run:ai الآن مفتوح المصدر بالكامل بموجب Apache 2.0.
- 4 مكونات تُشحن بشكل مستقل: KAI Scheduler، GPU Fractioning، Resource Management، Workload Map.
- أصبح تقسيم GPU يستخدم الآن عزل ذاكرة أصليًا في CUDA 13.4.
- بيئة التطوير المحلية تعمل على عنقود Kind من 5 عقد مع 8 وحدات GPU محاكاة.
- الإصدار المجاني لا يشمل دعم NVIDIA للمؤسسات.
اطّلع على مستودع GitHubو دليل التطوير المحلي و المدونة التقنية لـ NVIDIA. كل الفضل يذهب إلى باحث هذا المشروع. كما لا تترددوا في متابعتنا على تويتر ولا تنسوا الانضمام إلى SubReddit الخاص بالتعلم الآلي الذي يضم أكثر من 150k والاشتراك في نشرتنا البريدية. مهلًا! هل أنتم على تيليجرام؟ يمكنكم الآن الانضمام إلينا على تيليجرام أيضًا.
المنشور NVIDIA تفتح مصدر Run:ai بموجب Apache 2.0 لتنسيق GPU في Kubernetes ظهر لأول مرة على MarkTechPost.