Meta Superintelligence Labs a publié Muse Spark Open, la version à poids ouverts de son modèle Muse Spark. Muse Spark Open est un modèle Mixture-of-Experts de 816B paramètres qui active 42B paramètres par token. Il accepte des entrées texte, image, vidéo et audio, renvoie du texte, et dispose d'une fenêtre de contexte de 1M tokens. L'équipe Meta le présente comme le modèle américain à poids ouverts le plus capable à ce jour. Pour les développeurs, la véritable nouveauté concerne le déploiement : la build NVFP4 fonctionne sur 2 Apple M5 Ultra Mac Studios.
TL;DR
- Taille : 816B paramètres au total / 42B actifs (256 experts, 8 actifs par token) ; contexte de 1M tokens.
- Fonctionne sur : 2 Mac Studios (M5 Ultra, 512 Go chacun) via MLX ; 4 GPU Blackwell Ultra ou 8 H200 avec NVFP4 ; environ 300 Go de configurations via Unsloth GGUF 2-bit.
- Performance : Fort sur l'usage d'outils agentiques ; milieu de pack parmi les grands modèles ouverts en codage.
- Meilleur : MCP-Atlas 89.2, le meilleur score du tableau comparatif de Meta.
- Pire : Terminal-Bench 2.1 76.4, derrière Kimi K3 (85.0), GLM 5.3 (83.9) et Qwen3.8 (82.0).
Qu'est-ce que Muse Spark Open ?
Muse Spark Open est un modèle MoE nativement multimodal de Meta, conçu pour le codage et le travail agentique à long terme. Les poids sont disponibles en BF16 et en NVFP4 sur Hugging Face. La version ouverte a bénéficié d'un entraînement postérieur de sécurité supplémentaire. L'équipe Meta indique que cela la rend plus robuste sans garde-fous au niveau système.
Comment fonctionne l'architecture ?
La fiche modèle indique 62 couches et une dimension cachée de 8192. Chaque couche MoE contient 256 experts, et le routage top-k en active 8 par token. L'attention est en grouped-query, avec 128 têtes de requête et 16 têtes KV. Un Perception Encoder séparé de 1.8B paramètres gère l'entrée visuelle. Le vocabulaire compte 202,048 tokens, et les données d'entraînement couvrent plus de 100 langues.
La profondeur de raisonnement se règle avec reasoning_effort: low, medium, high ou xhigh. La valeur par défaut est xhigh.
Comment Muse Spark Open se comporte-t-il sur les benchmarks ?
Meta le compare à Kimi K3, GLM 5.3, Qwen3.8-2.4T-A95B et d'autres au niveau de raisonnement maximal. Ses meilleurs résultats concernent l'utilisation d'outils et la fiabilité des connaissances :
- MCP-Atlas : 89.2, devant Qwen3.8 (84.5) et GLM 5.3 (84.2).
- JobBench : 61.8, de justesse devant GLM 5.3 (61.4).
- HLE-Diamond, sans outils : 26.1, contre 22.2 pour Kimi K3.
- AA Omniscience : 25, le meilleur score du tableau de Meta.
- ZeroBench avec outils : 50.0, contre 41.0 pour Kimi K3.
La programmation est le point faible. Sur Terminal-Bench 2.1 avec le harnais Terminus 2, il obtient 76.4. Kimi K3 atteint 85.0, GLM 5.3 obtient 83.9 et Qwen3.8 obtient 82.0. Son indice Artificial Analysis Intelligence est de 39. Cela le place derrière GLM 5.3 (45), Kimi K3 (44) et Qwen3.8 (40). Donc « most capable US » tient toujours, mais les modèles ouverts chinois restent globalement en tête.
Certains scores de concurrents sont auto-déclarés ; la méthodologie d'évaluation liste chaque source.
De quel matériel Muse Spark Open a-t-il besoin ?
Selon le guide développeurde Meta, les poids BF16 pèsent environ 1.6 To. NVFP4 ne quantifie que les experts et avoisine 530 Go. La fiche du modèle recommande au moins 700 Go de VRAM pour NVFP4 et 2 To pour BF16.
- Centre de données : NVFP4 sur 4 GPU Blackwell Ultra ou 8 H200.
- Bureau : 2 Mac Studios M5 Ultra avec 512 Go chacun, reliés via Thunderbolt 5 avec RDMA. Le parallélisme de tenseurs MLX répartit chaque couche sur les deux machines.
- Station de travail : les GGUF dynamiques d'Unsloth en 2 bits tiennent dans environ 300 Go de mémoire combinée.
Où les développeurs peuvent-ils l'exécuter ?
Les moteurs disponibles dès le premier jour incluent SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, MLX, llama.cpp et Unsloth. Les API hébergées sont disponibles sur Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter et Together AI. OpenRouter affiche 1,25 $ par million (1M) de tokens d'entrée et 4,25 $ par million (1M) de tokens de sortie.
Deux modèles de draft accélèrent le décodage : DFlash V2 pour SGLang et DSpark pour vLLM. Meta rapporte un débit multiplié par 3.7 pour une requête unique avec DFlash V2 sur AMD MI355X. Le fine-tuning fonctionne avec TorchTitan, Hugging Face TRL et NVIDIA NeMo AutoModel.
Que permet la Muse Model License ?
La Muse Model License autorise l'utilisation, le fine-tuning, la distillation et la redistribution. 2 conditions comptent le plus :
- Les produits doivent afficher « Built with Muse Spark Open ».
- Les fournisseurs de Model-as-a-Service réalisant plus de 20 M$ de revenus sur 12 mois doivent conclure un accord distinct avec Meta.
L'usage interne, la recherche et l'alimentation de vos propres fonctionnalités produit sont exemptés de la clause de revenus.
Muse Spark Open vs Kimi K3 vs GLM 5.3 vs Qwen3.8
| Caractéristique | Muse Spark Open | Kimi K3 | GLM 5.3 | Qwen3.8-2.4T-A95B |
|---|---|---|---|---|
| Paramètres totaux | 816B | 2,8T | 753B | 2,4T |
| Paramètres actifs | 42B | 104B | ~40B | 95B |
| Contexte | 1M | 1,048,576 | 1,048,576 | 262 144 natif, jusqu'à 1 010 000 |
| Entrée | Texte, image, vidéo, audio | Texte, image, vidéo | Texte | Texte |
| Licence | Licence Muse Model | Licence Kimi K3 | licence glm-5.3 | licence qwen3.8-max |
| Poids publiés | BF16, NVFP4 | MXFP4 (QAT) | BF16, FP8 | BF16 |
| AA Intelligence Index (via Meta) | 39 | 44 | 45 | 40 |
| Terminal-Bench 2.1, Terminus 2 (via Meta) | 76.4 | 85.0 | 83.9 | 82.0 |
| MCP-Atlas (via Meta) | 89.2 | 82.3 | 84.2 | 84.5 |
| Toolathlon Verified (fournisseur) | 72.8 | 76.5 | 73.0 | 72.5 |
| HLE avec outils (fournisseur) | 61.0 | 56.0 | 62.5 | 56.2 |
| DeepSWE 1.1 (fournisseur, harnais propre) | 60 | 67.5 | 66.9 | 56.6 |
| Configuration de bureau | 2x M5 Ultra Mac Studio | Non divulgué | Non divulgué | Non divulgué |
Points clés à retenir
- 816B au total, 42B actifs, contexte de 1M, entrée texte/image/vidéo/audio.
- Il domine le classement des modèles ouverts de Meta sur MCP-Atlas (89.2) et JobBench (61.8).
- Il est derrière Kimi K3, GLM 5.3 et Qwen3.8 sur Terminal-Bench 2.1 (76.4).
- La version NVFP4 fonctionne sur 2 M5 Ultra Mac Studios via MLX.
- Gratuit pour la plupart ; les fournisseurs MaaS avec un chiffre d'affaires supérieur à 20M$ doivent négocier un accord.
Consultez les poids du modèle, blog de recherche, guide du développeur et méthodologie d'évaluation. Tout le crédit revient au chercheur de ce projet. N'hésitez pas non plus à nous suivre sur Twitter et n'oubliez pas de rejoindre notre 150k+ML SubReddit et de vous abonner à notre Newsletter. Attention ! êtes-vous sur telegram ? vous pouvez maintenant nous rejoindre sur telegram également.
L'article Meta Releases Muse Spark Open: 816B Open-Weight MoE With 1M Context est apparu en premier sur MarkTechPost.