IT之家، وفقًا للأخبار الصادرة في 20 أكتوبر، أعلنت شركة DeepSeek رسميًا اليوم أنها، على أساس نشر مجموعة من النماذج الكبيرة المفتوحة المصدر، وأداة تجميع TileLang، ومكتبة مشتقات الاستدلال، قررت جعل إطار الاستدلال الداخلي DeepInfer مفتوح المصدر بالكامل.
قالت شركة DeepSeek الرسمية إن حدود قدرة النموذج الكبير تُحدد من قبل النموذج نفسه، ولكن كيفية تقديم خدمات النماذج الضخمة بتكلفة معقولة تعتمد أيضًا على طبقة وسطى لم يُعرف عنها الجمهور منذ فترة طويلة: إطار التفكير.
تُجعل التدريبات النموذج يكتسب معرفة، بينما تُتيح عملية الاستدلال استخدام النموذج من قبل البشر. في مواجهة عدد هائل من المستخدمين حاليًا، تتولى إطار العمل الاستدلالي تنظيم وتنسيق مجموعة ضخمة من القوى الحاسوبية، ويحدد كفاءتها بشكل مباشر تكلفة القوى الحاسوبية واستهلاك الطاقة لخدمات الذكاء الاصطناعي.
تأمل شركة DeepSeek من خلال مشاركة خبرات التشغيل الداخلية، مساعدة المطورين والمنظمات على تحسين كفاءة الإخراج والزمن المستغرق في الاستدلال الضخم، وبالتالي بناء توزيعات السحابة الخاصة والعامة بكفاءة، وتقليل تكلفة القوى الحاسوبية وتقليل استهلاك الطاقة، ليتسنى للذكاء الوصول إلى مجتمع أوسع بسعر أقل، تحقيق توزيع النماذج الكبيرة الحقيقي بشكل عادل.
على أساس DeepInfer، قامت شركة DeepSeek الرسمية بتطوير خدمة التحليل الشامل بكثافة عالية ذات استهلاك عالٍ وتأخير منخفض من DeepSeek V4.1 Flash. في المستقبل، سيتم الاستمرار في تحديث كود التحليل للنماذج الجديدة لدى DeepSeek والتحسينات اللاحقة أيضًا من خلال هذا الموقع.
إطار عمل DeepInfer للاستدلال: يجمع بين عوامل الاستدلال عالية الأداء والتحسينات العميقة لمنشأة الاستدلال، ويدعم الاستدلال الموزع، وتفكيك التخمينات، وإعادة التجربة المحدودة بواسطة SWA، والإخراج الهيكلي، ويتوافق مع منصات نيوماكس وأجهزة هواه شينغاندينغ.
deepseek-recipe مكونات التشفير والترميز: مكونات تشفير وترميز من نوع الإنتاجية المفتوحة المصدر، تتماشى بشكل كامل مع عملية المعالجة لدى API الرسمي لـ DeepSeek، مما يضمن للجماعة تجربة API مماثلة للتنصيب الرسمي.
عنوان الموقع الخاص بـ IT之家 للبرمجة مفتوحة المصدر كالتالي:
DeepInfer：https://github.com/deepseek-ai/DeepInfer
deepseek-recipe: https://github.com/deepseek-ai/deepseek-recipe
إعلان الإعلانات: يحتوي النص على روابط توجيهية خارجية (بما في ذلك لكن لا تقتصر على الروابط الفوقية، الرموز الثنائية الأبعاد، كلمات المرور، إلخ)، وذلك لتقديم معلومات إضافية وتوفير الوقت في التصفية، والنتائج مجرد مرجع فقط، وتحتوي المقالات التي تحتوي على روابط خارجية في موقع IT Home على هذا الإعلان.