16 أكتوبر، بكين– أعلنت مجموعة 范式智能 للتقنية المحدودة ("范式" أو "المجموعة"، رمز الأسهم: 6682.HK) بالشراكة مع شركة بكين 睿思智联 للتقنية المحدودة ("睿思智联") عن الإطلاق الرسمي لمنصة "模域" (ModelSphere) الشاملة لنشر الذكاء الاصطناعي بجودة الإنتاج. المنصة مفتوحة المصدر ومجانية لمستخدمي المؤسسات، وتدمج إدارة القدرة الحاسوبية ونشر النماذج وتحسين التشغيل في منصة موحدة، لمساعدة الشركات على خفض عوائق النشر والتشغيل والصيانة، وتحويل القدرة الحاسوبية بكفاءة أكبر إلى خدمات ذكاء اصطناعي آمنة ومستقرة وقابلة للاستخدام في الأعمال الفعلية. وقد أصبحت المنصة مفتوحة المصدر على GitHub.
عنوان Github: https://github.com/modelsphere/modelsphere
مع دخول النماذج الكبيرة مرحلة التوسع التجاري، تواجه الشركات بشكل عام في تنظيم القدرة الحاسوبية ونشر النماذج وتحسين الكفاءة مشكلات مثل انخفاض معدل استخدام الموارد، وتفتت النظام البيئي للرقائق، وارتفاع عوائق النشر، وصعوبة الضبط في بيئة الإنتاج. تسعى 模域 إلى دمج هذه الأعمال في عملية نشر وإدارة موحدة، وتقليل الاستثمار المتكرر للشركات في تكييف الأنظمة الأساسية وجدولة الموارد والتشغيل والصيانة اليومية، بحيث تتمكن الشركات من تضمين مختلف النماذج الكبيرة مفتوحة المصدر في عملياتها التجارية الأساسية دون الحاجة إلى إتقان عميق لأعمال معقدة مثل ترجمة التعريفات وتكييف العتاد، مما يتيح للفرق التقنية التركيز أكثر على تطوير التطبيقات والاحتياجات التجارية.
تتميز 模域 بأربع مزايا أساسية:
1. تبسيط النشر وضمان التشغيل المستقر لخدمات النماذج:توفر 模域 لوحة تشغيل رسومية وقدرات نشر معدة مسبقًا، مما يقلل كتابة أكواد إعداد البيئة ويساعد المطورين على بناء خدمات الاستدلال للنماذج الكبيرة بسرعة، ويبسط النشر عبر مختلف عناقيد الرقائق. وتتضمن المنصة قدرات مؤسسية مدمجة مثل التوسع والتقليص المرن التلقائي، ونشر PD المنفصل، وذاكرة KV المؤقتة ثلاثية المستويات، وموازنة التحميل عالية التوفر، والاستئناف التلقائي للكتابة عند انقطاع الخدمة، بما يدعم التشغيل المستقر لخدمات النماذج في بيئة الإنتاج.
2. الضبط التلقائي المستمر لرفع كفاءة تشغيل النماذج:تتضمن المنصة استراتيجية الجدولة الذكية للنماذج AutoTune، وجدولة موازنة تحميل تكييفية معتمدة على قدرات تسريع العتاد، لتحسين قدرة النموذج على معالجة الطلبات وسرعة الاستجابة الأولى، حيث ارتفعت كفاءة الإنتاجية القصوى للنظام بنحو 285% مقارنة بالخط الأساس، وقفز الأداء إلى 4 أضعاف القيمة الأصلية، محققة فعليًا "إطلاقًا كامل الطاقة" للقدرة الحاسوبية.
3. إدارة موحدة لعدة أنواع من الرقائق وتقليل التكييف المتكرر:تدمج المنصة محرك الاستدلال EngineX، وتدعم وتجري ضبطًا عميقًا لمختلف رقائق الحوسبة، ويمكنها الجدولة الموحدة والمختلطة لموارد الحوسبة الوطنية مثل 华为昇腾 و天数智芯 و摩尔线程 و海光 DCU، دون حاجة المستخدمين إلى إعادة كتابة أكواد المنطق الأساسية لكل رقاقة.
4. التحسين المستمر وتكييف النماذج السائدة لتسريع النشر والتطبيق:يواكب فريق 模域 باستمرار تطورات مجتمع المصادر المفتوحة، وقد قام بتكييف وتحسين النماذج السائدة مثل DeepSeek-V4/V4-Flash وQwen وKimi وMiniMax وGLM، بدعم النشر السريع بعد إصدار النماذج وضبط الأداء لبيئة الإنتاج، لمساعدة الشركات على تطبيق النماذج الجديدة في أعمالها الفعلية.
على المستوى التقني، تعمل 模域 بالتكامل مع محركات الاستدلال مثل vLLM وSGLang: يتولى محرك الاستدلال رفع كفاءة الحوسبة لخادم واحد، بينما تتولى 模域 الإدارة والتحسين على مستوى معمارية العنقود، بما يشمل توجيه الطلبات الواعي بالتحميل وبالذاكرة المؤقتة، ومجموعة KV المؤقتة الموحدة، والتوسع والتقليص التلقائي القائم على جودة الخدمة، والاستئناف التلقائي للكتابة عند انقطاع الخدمة، والضبط التلقائي للأداء استنادًا إلى البيانات التشغيلية، ومراقبة التشغيل وإدارة الخدمات، بما يضمن الأداء العالي والتوفر العالي للنظام في بيئة الإنتاج.
اعتمدت 模域 ترخيص Apache 2.0 المتساهل كمصدر مفتوح بالكامل، لتفتح قدرات هندسية في نشر النماذج الكبيرة وتحسينها أمام مزيد من الشركات والمطورين، مع جمع قوى القطاع لتحسين الدعم المستمر لمختلف الرقائق والنماذج، وتقليل عوائق تكييف العتاد، وخفض عتبة تطبيقات النماذج الكبيرة، ومساعدة الشركات على الاستفادة الجيدة من قدرتها الحاسوبية الحالية وإطلاق الإمكانات التجارية للقدرة الحاسوبية غير المتجانسة بكفاءة.
تقدمت هذه المقالة من 范式، وأعيد نشرها بموجب تصريح من 量子位، وترجع الآراء إلى مؤلفيها الأصليين.