فتحت Deepseek مصدر DeepInfer، إطار الاستدلال الداخلي لديها، بموجب رخصة Apache License 2.0. الاستدلال هو الطريقة التي يعالج بها نموذج الذكاء الاصطناعي المدرّب الطلبات وينشئ الاستجابات. وDeepInfer هو برنامج التقديم الذي يتيح لنموذج V4.1-Flash من Deepseek إنتاج إجابات بسرعة وعلى نطاق واسع.
الإطار يبني على vLLM مع نوى حوسبة محسّنة، ومعالجة موزعة عبر عدة رقائق، وتقنيات أسرع لتوليد النصوص. كما سيصدر رمز نماذج Deepseek المستقبلية كمصدر مفتوح. وتطلق Deepseek أيضاً deepseek-recipe، الذي يحاكي معالجة التوكنات لواجهة Deepseek API الرسمية بحيث تعمل الإعدادات المستضافة ذاتياً بالطريقة نفسها.
نماذج Deepseek رخيصة جداً بالفعل. ويملأ DeepInfer الفجوة الأخيرة لتشغيلها بطريقة أرخص ainda أكثر. والهدف هو "مساعدة المجتمع على خفض تكاليف الحوسبة، وتقليل استهلاك الطاقة، وجعل الذكاء الاصطناعي أكثر يسراً"، قالت الشركة على X. لكن الإصدار يضيف أيضاً ضغوط أسعار على المزودين الغربيين مثل OpenAI وAnthropic. ونظراً لـ سباق الذكاء الاصطناعي بين الصين والولايات المتحدة، فقد تكون هذه الخطوة مدفوعة بدوافع سياسية أيضاً. وإذا أخفقت شركات الذكاء الاصطناعي الغربية في تحقيق أهداف نموها، فذلك خطر على الاقتصاد الأمريكي وخارجه.إعلان
المصدر: Deepseek | Github