أعلنت شركة DeepSeek رسميًا في 20 أكتوبر، وبعد أن قامت بإصدار مجموعة من النماذج الكبيرة، وأداة التحويل TileLang، ومكتبة العمليات الاستدلالية تدريجيًا، قررت أن تخطو خطوة أخرى – وهي إصدار إطار الاستدلال الداخلي الخاص بها DeepInfer على شكل مفتوح.
كشفت الشركة عن طبقة وسطية كان الجمهور يتجاهلها منذ فترة طويلة: حد الإمكانات الأقصى للنماذج الكبيرة يُحددها النموذج نفسه، لكن كيفية تقديم خدمات النماذج الضخمة بتكلفة معقولة يعتمد بشكل حقيقي على إطار الاستدلال. التدريب يجعل النموذج يتعلم، بينما الاستدلال يجعل النموذج يُستخدم من قبل الآخرين. في مواجهة عدد هائل من المستخدمين اليوم، يتولى إطار الاستدلال تنظيم وتنسيق مجموعة ضخمة من القوى الحاسوبية، وكفاءته تحدد مباشرة تكلفة القوى الحاسوبية واستهلاك الطاقة لخدمات الذكاء الاصطناعي.
تريد DeepSeek من خلال الكشف عن تجارب التشغيل الداخلية، مساعدة المطورين والمنظمات على تحسين كمية الإخراج وانتظار الاستدلال الضخم، مما يسمح ببناء توزيعات السحابة الخاصة أو العامة بشكل أكثر كفاءة، وتقليل تكلفة القوة الحاسوبية وتقليل استهلاك الطاقة، ليتمكن الذكاء من الوصول إلى مجموعة أوسع من الناس بسعر أقل، وتحقيق ما يسميه "الاستفادة العامة من النماذج الكبيرة".
بناءً على DeepInfer، تمكنت شركة DeepSeek الرسمية من تطبيق خدمة التفكير الضخمة عالية الإنتاجية وضيق التأخير لـ DeepSeek V4.1Flash؛ وفي المستقبل، سيتم التحديث المستمر لأكواد التفكير للنماذج الجديدة والتحسينات اللاحقة داخل هذا الإطار.
بالتفصيل، يتكامل إطار التفكير DeepInfer مع محركات استدلال عالية الأداء ومحسّنات عميقة، ويدعم قدرات الاستدلال الموزع، وتشفير التوقعات، وإعادة التدوين المحدودة SWA، والإخراج الهيكلي، كما يتوافق مع منصبي نوتيوم إنفيديا وهواوي شنغتان. ويأتي معه بشكل مفتوح أيضًا مكون التشفير والترجمة deepseek-recipe – وهو وحدة تشفير وترجمة للتوكنات من الطراز الإنتاجي، تتوافق بالكامل مع منطق معالجة واجهة برمجة التطبيقات الرسمية لـ DeepSeek، مما يضمن استمرارية تجربة الواجهة البرمجية للمجتمع والتثبيت الرسمي. بالنسبة لأولئك الذين يرغبون في بناء خدمة الاستدلال بأنفسهم، يعني ذلك أنه لا حاجة للبدء من الصفر، بل يمكنهم الوقوف على أساس خبرة توزيع DeepSeek.