MiniMax는 10월 23일 MiniMax M3.1Flash 모델 가중치를 정식으로 오픈소스 공개했다. 이 모델의 총 파라미터 수는 428B, 활성 파라미터 수는 23B로, 이전 세대 M3 모델 대비 능력이 전반적으로 향상되었다. 공식 발표에 따르면, M3.1Flash는 출시 72시간 내에 실제 사용자의 토큰 처리량이 100조를 초과했다.
추론 효율을 높이기 위해 M3.1Flash는 여러 최적화를 도입했다: 처음 세 개의 전체 어텐션 레이어를 희소 어텐션으로 교체, 양자화 인지 훈련(QAT)을 통해 라우팅 MoE 전문가(공유 전문가 제외)를 W4A4로 이전, 희소 어텐션 인덱서와 메인 브랜치를 Q8KV8에서 Q8KV4로 조정, 동시에 Power-aware scheduling을 채택해 연산 카드 전력을 정밀하게 배분하여 하드웨어 활용 효율을 향상시켰다.
생태계 구축 측면에서, MiniMax는 화웨이 승텐(昇腾), 핑터우거(平头哥), 쿤룬칩(昆仑芯), 무어스레드, 비쥐런(壁仞), 하이광(海光), 머시(MetaX), 틴슈(天数), NVIDIA, AMD 등 칩 제조사와 Together AI, Fireworks, Nebius, Baseten, Modal, DigitalOcean 등 추론 및 클라우드 서비스 플랫폼과 협력하여 모델의 첫날 연동을 추진했다.
또한 vLLM, SGLang, 비위안(BAAI) FlagOS, 그리고 Hugging Face와 모델스코프(魔搭) 커뮤니티도 함께 모델 적응을 추진하여 다양한 칩, 클라우드 플랫폼 및 개발 환경에서의 활용을 확대해 나갈 것이다.
오픈소스 주소:
허깅 페이스:https://huggingface.co/MiniMaxAI/MiniMax-M3.1-Flash
모델스코프 커뮤니티:https://modelscope.cn/models/MiniMax/MiniMax-M3.1-Flash