IT之家 10월 23일 소식에 따르면, MiniMax稀宇科技은 오늘 오픈소스 MiniMax M3.1 Flash 모델의 가중치를 발표했습니다. 총 매개변수는 428B이며, 활성화 매개변수는 23B입니다.
전임기의 M3 모델에 비해, M3.1 Flash 모델의 모델 능력이 전반적으로 향상되었습니다. 또한, 전체 모델의 스프리크한 주의, 양자화된 인지 학습 및 Power-aware scheduling과 같은 최적화 작업을 통해 M3.1 Flash는 추론 효율성을 더욱 높였습니다.
전체 모델 간단한 주의력: 처음 세 개의 전체 주의력 층을 간단한 주의력으로 교체합니다;
QAT： 라우팅 MoE 전문가는 W4A4로 이전되며(공유 전문가는 제외), 희박 주의도 인덱서와 주 분기선은 Q8KV8에서 Q8KV4로 이전됨;
Power-aware scheduling：계산 카드의 전력 소비를 정밀하게 분배하여 계산 카드가 지속적으로 높은 연산 능력을 유지하도록 하여 하드웨어 효율을 극대화합니다.
M3.1 Flash이 10월 19일에 출시되었으며, 72시간 동안 실제 사용자가 100조 개의 토큰을 처리했습니다.
MiniMax는 화웨이 승탕, 핑타오구, 쿤룽심, 모어스틴, 비얀, 하광, 무시, 타이안, 엔비디아, AMD 등 국내외 칩 제조업체와 Together AI, Fireworks, Nebius, Baseten, Modal, DigitalOcean 등 추론 및 클라우드 서비스 플랫폼과 협력하여 M3.1 Flash의 오픈소스 첫 접속을 함께 추진한다고 발표했습니다.
또한 vLLM, SGLang, 지원 FlagOS 및 Hugging Face, 마타 등의 추론 프레임워크와 오픈소스 커뮤니티도 MiniMax과 함께 다양한 칩, 클라우드 플랫폼 및 개발 환경에서 모델의 활용을 촉진하여 전 세계 AI 오픈소스 생태계를 지속적으로 확장할 것입니다.
IT之家의 오픈소스 주소는 다음과 같습니다: