مع توسع مصانع الذكاء الاصطناعي من ميجاواط إلى جيجاواط، فإن بنائها يتطلب أكثر من الحوسبة المتقدمة. تساعد المعايير المفتوحة الصناعة على توسيع البنية التحتية للذكاء الاصطناعي بشكل أسرع وأكثر كفاءة واستمرارية.
في مؤتمر القمة العالمي لبرنامج Open Compute (OCP) الذي عُقد في مركز المؤتمرات سان جوزيه ماكينيري، أعلنت نيفيديا عن شراكات جديدة وتبرعات تهدف إلى إنشاء أساس مشترك لبنية تقنية الذكاء الاصطناعي للجيل القادم.
ساهمت نيفيديا بتصاميم NVIDIA Vera Rubin لحامل الأجهزة وطبقة الحوسبة، من خلال معمارية NVIDIA MGX المفتوحة، مما يوفر لبناة الأنظمة أساسًا مشتركًا لتطوير بنية تحتية لمصانع الذكاء الاصطناعي من الجيل القادم.
معًا، تشمل هذه الجهود مصنع الذكاء الاصطناعي نفسه، والشبكة الكهربائية التي تزوده بالطاقة، والهندسة المعمارية على مستوى الراك في قلب الحوسبة المتسارعة الحديثة.
نيفيديا والشركاء يعلنون عن تطورات في البنية المفتوحة
في فعالية OCP، أصدرت نفيديا والشركاء بعض الإعلانات:
- نشرت شركة NVIDIA والشركات الكبرى للخدمات الإلكترونية معايير مفتوحة لمصانع الذكاء الاصطناعي الجديدة، وتشمل معايير تصميم مصانع الذكاء الاصطناعي ومقاومة الشبكة.
- أطلقت نيڤاديا مكونات برمجية مفتوحة المصدر جديدة لمنشأة الذكاء الاصطناعي NVIDIA DSX.
- متا وNVIDIA تطوران شبكات الذكاء الاصطناعي المفتوحة باستخدام جهاز SuperNIC إيثرنت من NVIDIA Spectrum-X وابتكارات Spectrum-6.
- قدمت Visionbay تصميم مصنع للذكاء الاصطناعي بجهد كهربائي مستمر 800 فولت لعصر فيرا روبين.
- أعلنت NVIDIA وCisco عن معيار USFP ذو الكثافة العالية، وهو أول وحدة في الصناعة لتقنيات الشبكات القائمة على 400 جيجابايت في الثانية.
- أعلنت نيوزيفاي وجوجل عن دعم نظام Falcon Transport على وحدات SuperNIC من نوع NVIDIA ConnectX-10 ووحدات DPU من نوع BlueField في المستقبل.
أمام جمهور مزدحم، ناقش إيان باك، نائب رئيس تطوير الحوسبة عالية الأداء والسريعة في شركة NVIDIA، كيف أن البنية التحتية المفتوحة أصبحت عنصرًا حاسمًا في توسيع مصانع الذكاء الاصطناعي في جميع أنحاء العالم.
الأخبار في OCP تبرز كيف أن التعاون الشامل بين شركة NVIDIA والمعايير المفتوحة يسرع من تنفيذ المنتجات، ويحسن كفاءة الطاقة، ويدفع إلى تحقيق أداء عالٍ لكل واط.
تتقدم مصانع فيرا روبين للذكاء الاصطناعي بفضل مساهمات MGX في OCP
انضمت شركة NVIDIA إلى القادة في الصناعة في المساهمة في تصميم مرجعي مركز البيانات الذكي MGX من الجيل الثالث باستخدام مبادرة Open DC الخاصة بـ OCP.
مع تقنيات التبريد السائل المفتوحة مثل MQD وMQDB، يساعد هذا الجهد في تحويل تصاميم مصانع الذكاء الاصطناعي المعتمدة إلى معايير صناعية يمكن للآخرين تبنيها وتصنيعها وتوسيعها.
بالنسبة لمصانع NVIDIA Vera Rubin للذكاء الاصطناعي، فإن المواصفات المحدثة MGX 1.2 توسع البنية التحتية المفتوحة لمصانع الذكاء الاصطناعي باستخدام تبريد سائل على مستوى الرادارات، وبنية اتصال قابلة للتشغيل المتعدد على مستوى الرادارات، بالإضافة إلى حاملات شبكة بقوة 5,000 أمبير مصممة لأنظمة الذكاء الاصطناعي ذات الطاقة العالية. كما تضيف هذه المواصفات دعم معدني للأجهزة بحجم 19 بوصة وتصاميم رادارات ذات كثافة عالية.
MGX 1.2 يوسع مفهوم النمط المكوني أكثر، من خلال خزانات إدخال وإخراج قابلة للتخصيص، أرفف حاسوبية معقمة بالسائل دون مروحة، وواجهات طاقة وتبريد موحدة، وبنية تحتية مشتركة تساعد شركاء النظام البيئي على بناء منصات حوسبة متفاعلة ومسرعة. كما يحسن من أوقات التجميع والاختبار والخدمة، مما يسهل الإنتاج والخدمة الميدانية، ويسمح ببناء البنية التحتية بشكل أسرع وأكثر كفاءة. تدعم البنية التحتية توزيع الأقراص حتى 250 كيلوواط، مع تبسيط الإمكانية في الاستخدام والتوزيع وإعادة استخدام البنية التحتية.
تتوسع مواصفات تصميم حامل ويرا للوحدات المعالج (Vera CPU rack) الهيكل المفتوح NVIDIA MGX إلى ما يتجاوز الحوسبة المسرّعة، وتوفر منصة مصممة خصيصًا للعصر المتنامي للذكاء الاصطناعي الوظيفي. بينما يعمل ويرا روبين NVL72 كأساس لتدريب وإدراك على نطاق كبير، فإن حامل وحدات المعالج ويرا لشركة NVIDIA مصمم لدعم استدعاء الأدوات والتنظيم والتنفيذ في بيئة محمية، مما يساعد الوكالات الذكية على التفاعل مع التطبيقات والبيانات والخدمات في الوقت الحقيقي.
مبنية على معمارية خزان NVIDIA MGX من الجيل الثالث، يشترك خزان Vera CPU في نفس مبادئ التصميم على مستوى الخزان التي تجمع بين الحوسبة، والشبكات، والطاقة والتبريد في منصة معيارية موحدة. هذه النهجة تمكن الشركاء من توزيع البنية التحتية المتخصصة، بينما يستفيدون من نظام بيئي مشترك، ودمج مبسط، وأساس متسق لمصانع الذكاء الاصطناعي من الجيل القادم.
نيفيديا تطلق مكونات برمجيات مفتوحة المصدر الجديدة لمنشأة الذكاء الاصطناعي DSX
منصة NVIDIA DSX AI factory platform تطبق تقنيات التصميم المشترك الشديد لتوحيد الحوسبة والشبكات والطاقة والتبريد والمعدات والبرمجيات، مما يساعد مصانع الذكاء الاصطناعي على العمل كنظام متكامل ومتحسن، ويساهم في تعظيم نتائج الذكاء الاصطناعي ضمن قيود البنية التحتية المتاحة. وفي مركز هذا النظام الموحد يوجد OS DSX، الطبقة التشغيلية المفتوحة التي تحول بنية DSX إلى عمليات منسقة وقابلة للتكرار على نطاق واسع.
في OCP، قامت NVIDIA بتوسيع نظام DSX OS بإضافة مكونات من source open لتركيب الشبكات، والتحقق من التجمعات، وإدارة الأروقة، وتوفير معدات برمجية بسيطة:
- مشرف إعدادات NVIDIA: يقوم بتحويل تكوينات التبديل إلى أعمال آلية على نطاق واسع، مما يسمح للعملاء بنشر والتحقق من الحفاظ على شبكات مصنع الذكاء الاصطناعي المتسقة دون أي تدخل يدوي مفرط أو صفري.
- محرك الاستعداد للعقارات في نيويدا: يساعد على إزالة أخطاء العمل الباهظة من خلال اختبار الضغط لعقارات الرسومات الخاصة بوحدات GPU باستخدام محاكيات حقيقية للأعمال، لضمان صحة الأجهزة قبل بدء التدريب.
- خدمة إدارة ركائز نيفيديا: تقدّم تبريزًا للهاردوير والحلول التشغيلية للركائز، وتعتبر الركائز وحدات من الدرجة الأولى لإدارة البرمجيات في مصنع الذكاء الاصطناعي بأبعاد أكبر.
- مزود واجهة API للوحدات الطرفية لجهاز التحكم في البنية التحتية الخاصة بـ NVIDIA: يسرع عملية توزيع الأجهزة الخام وإضافة المستخدمين، مما يجعل الأجهزة الحاسوبية الذكية الخام تتحول إلى مجموعات قابلة للإنتاج في ساعات بدلاً من أيام.
تم تطوير هذه المكونات مفتوحة المصدر من خلال خبرة شركة NVIDIA في تشغيل نظام NVIDIA DGX Cloud، وتمكن هذه المكونات مزودي الخدمة السحابية وشركاء البرمجيات من دمج قدرات مصنع الذكاء الاصطناعي مباشرة في منصاتهم المتعددة الأطراف.
يمكن للمطورين زيارةصفحة GitHub لمنصة NVIDIA DSX AI Factory لتجربة وتمويل مكونات البرمجيات المفتوحة المصدر الجديدة والقائمة من منصة NVIDIA DSX AI Factory.
نيفيديا والشركات الكبرى تُصدر معايير مفتوحة لمصانع الذكاء الاصطناعي الجديدة
لتوسع البنية التحتية للذكاء الاصطناعي على مستوى العالم، يجب أن تتوفر أكثر من الأجهزة المتقدمة – بل يحتاج إلى أساس مشترك يمكن لالإقليم بأكمله بناؤه عليه.
في OCP، انضمت NVIDIA إلى AMD وGoogle وMeta لنشر مواصفة مفتوحة جديدة تُشكّل الأساس لهذه المواصفة. تحدد مواصفة المركز البيانات المفتوح v0.7 خطة موحدة لتصميم منشآت الذكاء الاصطناعي الجديدة — من بنية الطاقة إلى البنية التحتية للتبريد إلى التخطيط الفيزيائي.
مواصفة مرونة شبكة OCP، التي نشرتها جوجل وميتا ومايكروسوفت ونفيديا، تحدد كيف يجب أن يتصرف البنية التحتية للذكاء الاصطناعي على نطاق كبير أثناء حدوث اضطرابات في شبكة الخدمات: البقاء متصلًا، الاستجابة تلقائيًا، واستعادة الحمل الكامل تقريبًا في أقل من ثانيتين.
مع فتح هذه المعايير الآن، لدى الشركات المصنعة في جميع أنحاء العالم هدف مشترك لتطويره. يمكن لشركات صناعة المعدات ومزودي تجميع البيانات ومشغلي مراكز البيانات أن يبدأوا في تصميم وتصنيع وتوفير طبقة البنية التحتية التي تدعم مصانع الذكاء الاصطناعي قيد البناء عالميًا — دون الحاجة إلى انتظار مواصفات خاصة من العملاء الفرديين.
متوافق مع تصميم NVIDIA DSX المرجعي، توفر هذه المواصفات تنفيذًا مُثبتًا وقابل للتطبيق لكلا المواصفات، من تخطيط المنشأة وهندسة الطاقة إلى البرامج التي تُراقب إشارات الشبكة وتستجيب لها في الوقت الحقيقي. بالنسبة للمشغلين الذين يبنون مصانع Vera Rubin للذكاء الاصطناعي، أصبح الآن هناك مسار مباشر من المعيار المجتمعي المفتوح إلى نظام يعمل فعليًا.
Visionbay.ai تصمم مصنع AI بجهد كهربائي 800VDC للعصر Vera Rubin
مع توسع مصانع الذكاء الاصطناعي وزيادة قوتها، يبرز تحدٍ واحد أمامها جميعًا: توفير الطاقة الكافية للأنظمة الحاسوبية المتسارعة التي تدفع الجيل القادم من الذكاء الاصطناعي.
في OCP، كشفت شركة Visionbay عن خطط لمنصة المصنع الذكي K-1 من الجيل التالي، والتي تم تصميمها حول تقنية 800 VDC، وتم بناؤها مع الأخذ في الاعتبار تطبيقات NVIDIA Vera Rubin المستقبلية. يجمع المشروع بين تقنية 800 VDC المرجعية لشركة NVIDIA وتقنيات الطاقة والحرارة من شركة Vertiv، لتخلق أساسًا قابلًا للتوسيع لبنية البيانات الذكية ذات الكثافة العالية.
تتعامل التصميم مع تحدٍ متزايد في الصناعة. مع توسع أعمال تدريب الذكاء الاصطناعي والاستدلال والاستنتاج، تواصل كثافة طاقة الخزانات ارتفاعها. يصبح توزيع الطاقة منخفضة الجهد التقليدي أكثر صعوبة في التوسيع، مما يتطلب المزيد من النحاس والمزيد من الكابلات والمزيد من معدات تحويل الطاقة.
من خلال اعتماد معمارية 800 VDC الخاصة بشركة NVIDIA، يقوم نظام K-1 بإنشاء مسار نحو بنية تحتية للذكاء الاصطناعي ذات كثافة أعلى، مع الحفاظ على المرونة للتطبيقات القائمة. بدلاً من مطلب التحول الكامل في اليوم الأول، تم تصميم المنصة بحيث يتم توزيع 800 VDC تدريجياً عندما يوفر ذلك الفائدة الأكبر، مما يساعد المشغلين على الاستعداد لجيلات جديدة من الحوسبة المتسارعة دون الحاجة إلى إعادة تصميم كبير للمنشآت.
تم تصميم البنية التحتية حول مراكز طاقة على مستوى المجموعات، حيث يتم تركيز تحويل الطاقة من AC إلى DC وتوزيع الطاقة بجهد 800 فولت DC بالقرب من موارد الحوسبة. يسهل هذا النهج توفير الطاقة في الاتجاه السفلي، ويدعم التوسع القائم على الوحدات الفرعية، ويخلق كتل بناء قابلة للتكرار لنمو مصنع الذكاء الاصطناعي في المستقبل.
ك-1 يعكس أيضًا فلسفة التصميم على مستوى النظام التي تُطبقها مصانع الذكاء الاصطناعي التابعة لشركة NVIDIA، حيث يتم تصميم الطاقة والتبريد والحوسبة معًا. بفضل دعم البنية التحتية المبردة بالسائل، وتوزيع الطاقة القابل للتوسيع، والتركيز على تطبيقات من فئة Vera Rubin في المستقبل، يُظهر هذا المشروع كيف يقوم شركاء النظام بتحويل هيكل مصانع الذكاء الاصطناعي التابعة لشركة NVIDIA إلى بنية تحتية قابلة للتطبيق مصممة للعصر القادم من الحوسبة المتسارعة.
التعزيز في الـ Meta و NVIDIA للشبكات الذكية باستخدام تقنية Spectrum-6 والمصفوفة المتعددة
في الحدث، أعلنت شركة ميتا وشركة نيودبيري عن أن ميتا ستستخدم محولات الإيثرنت من نوع Spectrum-6 بسعة 102.4 تيرابايت في الثانية لبناء مصانع أكبر وأكثر أداءً للذكاء الاصطناعي من نوع NVIDIA Vera Rubin على شبكات مفتوحة.
يوفر Spectrum-6 قدرة تبديل ضعفية ونطاق شبكة يساوي نطاق Spectrum-4 لكل طريق، كما يوفر بنية Ethernet AI بدون فقدان بسرعة 200 جيجابت لكل طريق، مع نطاق شبكة فعال عالي وعزل أداء، بحيث لا يتأثر حركة المرور لأحد الأعمال بالحركة المرورية لأخرى.
جهاز التبديل بنظام Spectrum-6 من ميتا، N-IceCube، يتدعم في IcePack، وهو جهاز 100T من ميتا، جهاز خزن مع تبريد سائل. N-IceCube يعمل بنظام Facebook Open Switching System (FBOSS)، وهو نظام تشغيل الشبكة المفتوحة المصدر لشركة ميتا، والذي ساهم في دعم OCP في تحقيق شبكات فعالة على مستوى هائلي سكان.
تم بناء FBOSS على واجهة التجريد للمنفذ، وهي معيار OCP تم تطويره بواسطة NVIDIA، وتوفر طريقة مستقلة عن الموردين للتحكم في أجهزة المنفذ. بالإضافة إلى ذلك، تدعم هذه التقنيات مصانع الذكاء الاصطناعي التي تحتوي على أكثر من 100,000 GPU، وتدرب وتقدّم نماذج مزيج من الخبراء.
يُعَدّ هذا الإعلان خطوة أخرى في التعاون الذي يجمع بين خبرة ماي تي بي في تشغيل البنية التحتية للذكاء الاصطناعي على مستوى فائق الحجم، وتقنيات شبكات نفيديا.
في قلب هذا التعاون توجد تقنية Spectrum-X Multiplane، التي تُمكنها محولات Spectrum-6 وSuperNICs ConnectX-9. تقنية Multiplane توزع حركة GPU عبر ثمانية مستويات شبكة مستقلة، مما يسمح لورشات الذكاء الاصطناعي بالتوسع إلى أكثر من 100,000 GPU دون الحاجة إلى المزيد من محولات أو تكاليف بنية تحتية أقل. تحسن المسارات المتعددة بين وحدات GPU من استغلال الشبكة ومقاومتها: عند فشل مكون ما، يتحول حجم التدفق إلى الوحدات المتبقية، مما يبقي وحدات GPU في حالة إنتاجية وتشغيل تطبيقات الذكاء الاصطناعي، حتى مع انخفاض عرض النطاق الترددي.
تعاونت الميتا وNVIDIA لتعزيز القدرة على التحمل من خلال تجربة التشغيل والتعديل السريع في الهندسة. وقد تم التحقق من تحسينات الأداء في البيئات المحلية والسحابية.
قال عمر بالدونادو، المدير الأعلى لمركز البيانات وشبكات الذكاء الاصطناعي في ميتا: "نحن سعداء بشراكتنا الوثيقة مع نفيديا في جعل الأقمشة متعددة المساحات قابلة للتوسيع التشغيلي ومتوافقة أداءً، وهو شرط أساسي لبناء البنية التحتية الخاصة بنا ولشركائنا في السحابة المشتركين". توسيع FBOSS ليشمل Spectrum ASICs يعني أننا يمكننا تشغيل نفس مجموعة البرمجيات على جميع الأنظمة الخاصة بنا، ويضمن جهاز Meta الجديد المبني على Spectrum، N-IceCube، دمج ذلك في Icepack – عمود الشبكة المائي الهادئ بسعته 102.4T لربط أجيال التسريع الجديدة في أسطولنا.
يقوم كل من مايتا ونيو ديل في تطوير هيكلية ودليل عمليات يمكن لغيرهم من مشغلي البنية التحتية للذكاء الاصطناعي اتباعه، مما يحول الدروس المستفادة من أعمال الإنتاج الشاقة إلى مصانع ذكاء اصطناعي أكثر قابلية للتوسيع والمرونة وكفاءة.
مع USFP وNVIDIA وCisco، إعادة اختراع التقنيات البصرية القابلة للتثبيت لحجم مصنع الذكاء الاصطناعي
مع توسع مصانع الذكاء الاصطناعي لدعم النماذج الأكبر حجمًا وزيادة الطلب على التحليل، يجب أن توفر كل مكونات سلسلة البنية التحتية أداءً أفضل وكفاءة أكبر وبساطة أكبر — حتى على صعيد اتصال الشبكة نفسه.
في OCP، أعلنت NVIDIA وCisco عن خططها لـ USFP، وهو حجم وحدة اتصال بصرية جديدة قابلة للتثبيت، مصممة لمساعدة بناة مصانع الذكاء الاصطناعي على توسيع إنتاجات الذكاء الاصطناعي من الجيل القادم، مع تحسين كثافة النطاق الترددي وكفاءة الطاقة.
مع حجم استخدام مشابه تقريبًا لحجم الطراز OSFP الذي يتم استخدامه على نطاق واسع بمعدل 200 جيجابايت في الثانية لكل طريق، سيوفر USFP طريقًا للتوصيل بسرعة 400 جيجابايت في الثانية لكل طريق، وسيوسّع نموذج التركيب القائم على أجهزة الإرسال والاستقبال الذي تم إثباته من قبل على جوانب مختلفة من شبكات مراكز البيانات. من خلال تضمين 16 طريقًا متعدد الاتجاهات كاملاً، مع خطط لتوسيع العدد إلى 32 طريقًا، سيوفر USFP كثافة بيانات أربعة أضعاف كثافة البيانات في الطراز التقليدي 200 جيجابايت في الثانية لكل طريق.
النتيجة هي القدرة على توصيل المزيد من موارد الحوسبة دون إضافة طبقات شبكية قد تزيد من التأخير واستهلاك الطاقة وتعقيد العملية.
تم تصميم الشكل الجديد للنموذج الخاص بهدف تلبية متطلبات الحجم والكفاءة لمصانع الذكاء الاصطناعي الجديدة من الجيل القادم، حيث يدعم أنظمة باستخدام نطاقات بيانات أعلى، مع الحفاظ على المرونة والقدرة على الصيانة التي جعلت العدسات القابلة للتعديل أساسًا في مراكز البيانات الحديثة. كما سيوفر كفاءة طاقة تزيد بحوالي 1.3 مرة، مما يساعد المشغلين على نقل المزيد من البيانات باستخدام طاقة أقل.
لدعم تطوير نظام بيئي مفتوح، تتعاون نفيديا وسيبكو مع TE Connectivity وAmphenol في مجالات الحلقات والملحقات والوحدات، مع خطط لتطوير USFP من خلال جهود متعددة المصادر يقودها المجتمع. معًا، تضع الشركات الأساس لشبكات مصنع الذكاء الاصطناعي الأكثر قابلية للتوسيع والكفاءة والتشغيل المشترك.
جوجل فالكون ترانسپورت تدعم NVIDIA ConnectX-10 للشبكات الذكية المتعددة الأجهزة
أعلنت نيفيديا وجوجل أيضًا عن دعم نظام Falcon Transport على وحدات SuperNIC من نوع NVIDIA ConnectX-10 ووحدات DPU من نوع BlueField في المستقبل، مما يساعد على تحسين كفاءة الشبكة في البنية التحتية للذكاء الاصطناعي على مستوى كبير.
فالكون هو بروتوكول نقل مصمم لإيصال البيانات بشكل موثوق على شبكات الإيثرنت، حيث قد تفقد الشبكات الحزم عند حدوث ازدحام. يدعم البروتوكول أعمال الذكاء الاصطناعي وأعمال التخزين من خلال توازن الأحمال المتعددة المسارات، والتحكم programmable في الازدحام، واستعادة الخسارة في الأجهزة، والأمان لكل اتصال.
تجمع هذا التعاون بين تسريع الأجهزة من نوصيفي ونظام DOCA لتنفيذ برنامج Falcon وتوسيع شبكات نوصيفي لغايات نقل مركز البيانات الخاص بجوجل. يمكن لوحدات NIC الخاصة بنوصيفي وجوجل التواصل عبر نقل مشترك، بينما تحتفظ التطبيقات بواجهات البرمجة القياسية لـ RDMA.
من خلال توزيع حركة الشبكة على مسارات مختلفة، والتكيف مع الازدحام، وتصحيح الحزم المفقودة وحماية الاتصالات، يساعد Falcon الأعمال على استخدام عرض النطاق الترددي المتاح بشكل أفضل والحفاظ على أداء يمكن التنبؤ به مع توسع شبكات الإيثرنت.
تعرف أكثر من خلال الانضمام إلىنفيديا في OCP.