أعلنت MiniMax رسميًا في 23 أكتوبر فتح المصدر لأوزان نموذج MiniMax M3.1Flash. يبلغ إجمالي معلمات النموذج 428B، والمعلمات المُنشَّطة 23B، مع تحسين شامل للقدرات مقارنة بنموذج الجيل السابق M3. ووفقًا للبيان الرسمي، خلال 72 ساعة من إطلاق M3.1Flash تجاوز حجم Token المعالج من مستخدمين حقيقيين 100 تريليون.
ولتحسين كفاءة الاستدلال، أدخل M3.1Flash عدة تحسينات: استبدال أول ثلاث طبقات انتباه كامل بانتباه متناثر؛ ومن خلال التدريب المدرك للتكميم (QAT)، نقل الخبراء الموجَّهين في MoE (باستثناء الخبير المشترك) إلى W4A4، وتعديل فهرس الانتباه المتناثر والفرع الرئيسي من Q8KV8 إلى Q8KV4؛ كما اعتمد جدولة مدركة للطاقة Power-aware scheduling لتوزيع دقيق لاستهلاك بطاقات الحوسبة، مما يرفع كفاءة استخدام العتاد.
وفيما يخص بناء النظام البيئي، تعاونت MiniMax مع صانعي الرقائق Huawei Ascend وT-Head وKunlunxin وMoore Threads وBiren وHygon وMetaX وIluvatar وNVIDIA وAMD، إضافة إلى منصات الاستدلال والخدمات السحابية مثل Together AI وFireworks وNebius وBaseten وModal وDigitalOcean، لتمكين الوصول إلى النموذج من اليوم الأول.
بالإضافة إلى ذلك، ستعمل vLLM وSGLang وBAAI FlagOS، إلى جانب Hugging Face ومجتمع ModelScope، بشكل مشترك على دعم النموذج وتوسيع استخدامه عبر رقائق مختلفة ومنصات سحابية وبيئات تطوير متعددة.
رابط المصدر المفتوح:
هاجينغ فيس:https://huggingface.co/MiniMaxAI/MiniMax-M3.1-Flash
مجتمع ModelScope:https://modelscope.cn/models/MiniMax/MiniMax-M3.1-Flash