قام فريق vLLM Semantic Router بإصدار Decision 3.0، وهي عائلة من نماذج القرار متعددة الوسائط. تقرأ نماذج القرار متعددة الوسائط Decision 3.0 النصوص وJSON والصور، ثم تجيب عن أسئلة مصنفة حولها. تتوفر 5 أحجام، من 0.8B إلى 27B، وجميعها تحت ترخيص Apache-2.0. بالنسبة للمطورين، هذه طريقة سريعة لتصنيف الطلبات وتوجيهها وفلترتها دون الحاجة إلى تحليل نص مولّد.
الخلاصة السريعة
- الحجم: 5 نماذج: d3-lite (0.85B)، d3-nano (2.21B)، d3-mini (4.54B)، d3-flash (8.39B)، d3 (26.09B). طول السياق: غير مُفصح عنه.
- يعمل على: قِيست زمن الاستجابة على 1 من وحدات معالجة الرسومات AMD Instinct MI325X. أوزان BF16؛ لا توجد متغيرات مُكمَّمة رسمية مدرجة.
- الأداء: يتصدر نموذج d3 بحجم 27B كلا جدولي النص والرؤية في بطاقته، لكن ذلك وفق تقييم داخلي.
- الأفضل: 97.7 على KIE (CORD+FUNSD) لاستخراج المستندات (d3).
- الأ worst: 34.1 على R-Bench-M (d3).
- الخلاصة النهائية:
- الأفضل: نموذج بحجم 9B يتفوق الآن على نموذج بحجم 27B من الجيل السابق.
- الأأسوأ: النتائج ذاتية الإبلاغ مقابل بيانات لوحة مباشرة.
ما هو Decision 3.0؟
Decision 3.0 هو مجموعة من نماذج القرار المفتوحة من vLLM Semantic Router تُعيد احتمالات بدلاً من النصوص. تمرّر حالة (نص أو JSON)، وصوراً اختيارية، وأسئلة مسمّاة. كل سؤال هو إما Choice، أو Yes/No، أو Score على مقياس. يقوم النموذج بالإجابة على جميع الأسئلة في نداء واحد ويعيد احتمالاً لكل إجابة.
هذا هو نمط «النظام الأول» للموجّهات وضوابط الحماية. بدلاً من مطالبة LLM وتحليل مخرجاته، تحصل على درجات مُعايرة يمكنك وضع عتبات لها.
كيف يعمل d3؟
كل نموذج هو ضبط دقيق (fine-tune) لأساس Qwen. نموذج d3 بحجم 27B مبني على Qwen3.8-27B. أما النماذج الأصغر الـ4 فمبنية على نقاط تفتيش Qwen3.5 بأحجام 0.8B و2B و4B و9B.
كل حجم يحمل مُرمِّز رؤية (vision encoder): 0.10B في d3-lite، و0.33B في d3-nano وd3-mini، و0.46B في d3-flash وd3. تقبل الطلبات عدة صور بصيغ PNG أو JPEG أو WebP، وتُقرأ كل صورة بدقة تصل إلى 1.6 ميغابكسل. كل سؤال يرى جميع الصور.
كل سؤال يحصل على تمريرة أمامية (forward pass) خاصة به عبر المدخل. تستهدف عملية التثبيت transformers==5.17.0، وتسرّع الحزمة الاختيارية flash-linear-attention طبقات الانتباه الخطي. يتطلب التحميل trust_remote_code=True.
كيف يؤدي Decision 3.0 على المعايير المرجعية؟
من خلال بطاقة النموذج، تذكر فريق البحث أن Jev Decision Index 0.3.1، وهو لوحة تُرتِّب إعادة الإنتاج المفتوحة لنظام قرارات Jev من TypeSafe. أرقام d3 هي تقييم داخلي من الفريق.
على النص، d3 يسجل 64.1، متقدماً على Perplexity Decider v1.1 (62.8) وJev (60.1). تنبيه واحد: يسجّل Torchcast Decision 27B درجة أعلى على المجموعة العامة (65.1 مقابل 64.9). على لوحة الرؤية، يسجل d3 71.6 مقابل 70.6 لـ Perplexity Decider v1.1.
قصة الحجم هي أقوى جزء. d3-flash (9B) يسجل 59.0، متجاوزاً Decision 2.0 بحجم 27B عند 55.9. على المجموعة العامة، تتراوح المكاسب مقارنة بـ Decision 2.0 بين +8.0 (27B) و+15.1 (0.8B).
لكنّ الصدارة على الفئات ليست موحدة:
- d3-mini (4B) وd3-flash (9B) يتصدران جدولي النص والرؤية لديهما معاً.
- d3-lite (0.8B) يتصدر على النص لكنه يحتل المرتبة 3 على الرؤية (41.1، خلف JPT-0.8B عند 42.1).
- d3-nano (2B) يتصدر جدول الرؤية الخاص به لكنه يتأخر عن LiquidAI d1-3B على النص (35.8 مقابل 40.1).
على مهام الرؤية العامة، يسجل d3 97.3 على InfographicVQA و89.9 على Mind2Web، وكلاهما إعادة بناء تقريبية. وهو أضعف على MMMU-Pro vision (46.2) واعتدال Hateful Memes (44.6).
ما مدى سرعة النماذج؟
الوسيطات أدناه هي لـ 1 طلب في كل مرة على 1 بطاقة AMD Instinct MI325X، ولكل بطاقة على حدة:
- d3-nano: 21.7 ms للنص، و92.0 ms مع صورة
- d3-lite: 23.5 مللي ثانية للنص، و60.7 مللي ثانية مع صورة
- d3-mini: 28.5 مللي ثانية للنص، و115.0 مللي ثانية مع صورة
- d3-flash: 29.7 مللي ثانية للنص، و171.8 مللي ثانية مع صورة
- d3: 84 مللي ثانية للنص، و342 مللي ثانية مع صورة
تم تدريب جميع النماذج على معالجات AMD Instinct MI325X.
كيف يقارن d3 بنماذج القرار الأخرى؟
| الميزة | d3 (vLLM SR) | Perplexity Decider v1.1 | Decision 2.0 Vega-27B | LiquidAI d1-3B |
|---|---|---|---|---|
| المعاملات | 26.09B | 26B (قائمة HF) | 29.37B | 3.12B |
| النموذج الأساسي | Qwen3.8-27B | Qwen3.8-27B | Qwen3.8-27B | LFM2.5-VL-3B |
| المدخلات | نص وJSON وصور | نص وصور | نص وJSON | نص وJSON وصور |
| السياق | غير معلن | 8,192 رمزًا لكل قرار | 32,768 رمزًا | 32,768 رمزًا |
| الترخيص | Apache-2.0 | Apache-2.0 | Apache-2.0 | LFM 1.0 |
| مؤشر القرارات (بطاقتها الخاصة) | 64.1 (الإصدار v0.3.1، داخلي) | 61.56 (الإصدار غير مذكور) | 56.5 (v0.2.1) | 48.57 (v0.2.1) |
| لوحة Index 0.3.1 (حسب بطاقات d3) | 64.1 | 62.8 | 55.9 | 40.1 |
| لوحة الرؤية 0.3.1 | 71.6 | 70.6 | غير معلن (نص فقط) | غير معلن |
| زمن الاستجابة الوسيط (بطاقتها الخاصة) | 84 ملّي ثانية للنص، على 1 من MI325X | غير معلن | 71.4 ملّي ثانية، على 1 وحدة معالجة رسومية | 9 ملّي ثانية، على 1 من MI325X |
الخلاصات الرئيسية
- 5 نماذج قرار برخصة Apache-2.0، بأحجام تتراوح من 0.8B إلى 27B، وجميعها تدعم إدخال الصور.
- يتصدّر d3 (27B) جدولي النص (64.1) والرؤية (71.6) لديه، وذلك وفق تقييمات داخلية.
- نموذج d3-flash بحجم 9B (بدرجة 59.0) يتفوق على نموذج Decision 2.0 بحجم 27B (بدرجة 55.9).
- النماذج بحجمي 0.8B و2B لا تتصدّر كل لوحة.
- يتراوح زمن الاستجابة الوسيط للنص بين 21.7 و84 ملّي ثانية على 1 من MI325X.
اطّلع على مجموعة Hugging Face، و بطاقة نموذج d3 ومستودع vLLM Semantic Router على GitHub. كل الفضل يعود إلى الباحث المسؤول عن هذا المشروع. كما يمكنكم متابعتنا على تويتر ولا تنسَ الانضمام إلى مجتمع Reddit الفرعي 150k+ ML والاشتراك في نشرةنا البريدية. مهلاً! هل أنت على تيليجرام؟ يمكنك الآن الانضمام إلينا على تيليجرام أيضًا.
ظهر المقال ما هو Decision 3.0؟ نماذج القرار المفتوحة الجديدة من موجّه vLLM الدلالي أول مرة على MarkTechPost.