El 23 de octubre, MiniMax publicó oficialmente como código abierto los pesos del modelo MiniMax M3.1 Flash. El modelo tiene 428B de parámetros totales y 23B de parámetros activados, con una mejora integral de sus capacidades respecto a la generación anterior, el modelo M3. Según la información oficial, en las 72 horas posteriores a su lanzamiento, M3.1 Flash procesó más de 100 billones de tokens de usuarios reales.
Para mejorar la eficiencia de inferencia, M3.1 Flash incorpora múltiples optimizaciones: las tres primeras capas de atención completa fueron reemplazadas por atención dispersa; mediante entrenamiento con conciencia de cuantización (QAT), los expertos MoE enrutados (excepto los expertos compartidos) fueron migrados a W4A4, y el indexador de atención dispersa y la rama principal pasaron de Q8KV8 a Q8KV4; además, se adopta Power-aware scheduling para asignar de manera fina el consumo energético de las tarjetas de cómputo y mejorar la eficiencia de utilización del hardware.
En cuanto a la construcción del ecosistema, MiniMax se asoció con fabricantes de chips como Huawei Ascend, T-Head (Pingtouge), Kunlunxin, Moore Threads, Biren, Hygon, MetaX, Iluvatar CoreX, NVIDIA y AMD, así como con plataformas de inferencia y servicios en la nube como Together AI, Fireworks, Nebius, Baseten, Modal y DigitalOcean, para impulsar la integración del modelo desde su primer día.
Además, vLLM, SGLang, FlagOS de BAAI (Zhiyuan), así como Hugging Face y la comunidad ModelScope (Moda), también colaborarán en la adaptación del modelo, ampliando su aplicación en distintos chips, plataformas en la nube y entornos de desarrollo.
Direcciones del código abierto:
Hugging Face: https://huggingface.co/MiniMaxAI/MiniMax-M3.1-Flash
Comunidad ModelScope: https://modelscope.cn/models/MiniMax/MiniMax-M3.1-Flash