Meta Superintelligence Labs hat veröffentlicht Muse Spark Open, die Open-Weight-Version ihres Muse Spark Modells. Muse Spark Open ist ein Mixture-of-Experts-Modell mit 816B Parametern, das pro Token 42B Parameter aktiviert. Es nimmt Text, Bild, Video und Audio als Eingabe entgegen, gibt Text zurück und verfügt über ein Kontextfenster von 1M Token. Meta-Team behauptet es das fähigste US-Open-Weight-Modell bis dato zu sein. Für Entwickler ist die eigentliche Neuigkeit die Bereitstellung: Der NVFP4-Build läuft auf 2 Apple M5 Ultra Mac Studios.
TL;DR
- Größe: 816B Parameter insgesamt / 42B aktive Parameter (256 Experten, 8 aktiv pro Token); 1M-Token-Kontext.
- Läuft auf: 2 Mac Studios (M5 Ultra, jeweils 512 GB) über MLX; 4 Blackwell Ultra GPUs oder 8 H200s mit NVFP4; etwa 300 GB Setups über Unsloth 2-bit GGUF.
- Leistung: Stark beim agentischen Tool-Einsatz; im Mittelfeld großer offener Modelle beim Programmieren.
- Beste: MCP-Atlas 89.2, die höchste Punktzahl in Metas Vergleichstabelle.
- Schlechtestes: Terminal-Bench 2.1: 76.4, hinter Kimi K3 (85.0), GLM 5.3 (83.9) und Qwen3.8 (82.0).
Was ist Muse Spark Open?
Muse Spark Open ist ein nativ multimodales MoE-Modell von Meta, das für Programmierung und langfristige agentische Arbeiten entwickelt wurde. Die Gewichte werden in BF16 und NVFP4 auf Hugging Face. Die Open-Version erhielt zusätzliches Safety-Post-Training. Das Meta-Team erklärt, dass dies robuster macht, ohne system-level Guardrails.
Wie funktioniert die Architektur?
Die Model Card listet 62 Schichten und eine Hidden-Dimension von 8192 auf. Jede MoE-Schicht enthält 256 Experten, und Top-k-Routing aktiviert 8 pro Token. Attention erfolgt als grouped-query, mit 128 Query-Heads und 16 KV-Heads. Ein separater Perception Encoder mit 1.8B Parametern verarbeitet visuelle Eingaben. Das Vokabular umfasst 202,048 Token, und die Trainingsdaten decken mehr als 100 Sprachen ab.
Die Reasoning-Tiefe wird mit reasoning_efforteingestellt: low, medium, high oder xhigh. Der Standardwert ist xhigh.
Wie schneidet Muse Spark Open bei Benchmarks ab?
Meta vergleicht es mit Kimi K3, GLM 5.3, Qwen3.8-2.4T-A95B und anderen bei maximaler Reasoning-Anstrengung. Seine stärksten Ergebnisse liegen bei Werkzeugnutzung und Wissenszuverlässigkeit:
- MCP-Atlas: 89.2, vor Qwen3.8 (84.5) und GLM 5.3 (84.2).
- JobBench: 61.8, knapp vor GLM 5.3 (61.4).
- HLE-Diamond, ohne Werkzeuge: 26.1, gegenüber 22.2 bei Kimi K3.
- AA Omniscience: 25, der Spitzenwert in Metas Tabelle.
- ZeroBench mit Werkzeugen: 50.0, gegenüber 41.0 bei Kimi K3.
Programmieren ist die Schwachstelle. Auf Terminal-Bench 2.1 mit dem Terminus 2 Harness erreicht es 76.4. Kimi K3 erreicht 85.0, GLM 5.3 erzielt 83.9 und Qwen3.8 erzielt 82.0. Sein Artificial Analysis Intelligence Index liegt bei 39. Damit liegt es hinter GLM 5.3 (45), Kimi K3 (44) und Qwen3.8 (40). „Most capable US“ stimmt also, aber chinesische Open-Modelle führen insgesamt weiterhin.
Einige Konkurrenzwerte sind selbst berichtet; die Bewertungsmethodik listet jede Quelle auf.
Welche Hardware benötigt Muse Spark Open?
Laut Metas Entwicklerleitfadenwiegen die BF16-Gewichte etwa 1.6 TB. NVFP4 quantisiert nur die Experten und landet bei etwa 530 GB. Die Modellkarte empfiehlt mindestens 700 GB VRAM für NVFP4 und 2 TB für BF16.
- Rechenzentrum: NVFP4 auf 4 Blackwell Ultra GPUs oder 8 H200s.
- Desktop: 2 M5 Ultra Mac Studios mit je 512 GB, verbunden über Thunderbolt 5 mit RDMA. MLX Tensor-Parallelität verteilt jede Schicht auf beide Maschinen.
- Workstation: Unsloth Dynamic GGUFs bis hinunter zu 2-bit passen in etwa 300 GB kombinierten Speicher.
Wo können Entwickler es ausführen?
Engines ab dem ersten Tag umfassen SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, MLX, llama.cpp und Unsloth. Gehostete APIs sind auf Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter und Together AI verfügbar. OpenRouter listet 1.25 $ pro 1M Eingabe-Tokens und 4.25 $ pro 1M Ausgabe-Tokens auf.
Zwei Draft-Modelle beschleunigen das Decoding: DFlash V2 für SGLang und DSpark für vLLM. Meta berichtet von 3.7x Single-Request-Durchsatz mit DFlash V2 auf AMD MI355X. Fine-Tuning funktioniert mit TorchTitan, Hugging Face TRL und NVIDIA NeMo AutoModel.
Was erlaubt die Muse Model License?
Die Muse Model License erlaubt Nutzung, Fine-Tuning, Destillation und Weiterverbreitung. 2 Bedingungen sind am wichtigsten:
- Produkte müssen „Built with Muse Spark Open“ anzeigen.
- Model-as-a-Service-Anbieter mit mehr als 20 Mio. USD Umsatz in 12 Monaten benötigen eine separate Vereinbarung mit Meta.
Interne Nutzung, Forschung und der Betrieb eigener Produktfunktionen sind von der Umsatzklausel ausgenommen.
Muse Spark Open vs. Kimi K3 vs. GLM 5.3 vs. Qwen3.8
| Merkmal | Muse Spark Open | Kimi K3 | GLM 5.3 | Qwen3.8-2.4T-A95B |
|---|---|---|---|---|
| Gesamtparameter | 816B | 2.8T | 753B | 2.4T |
| Aktive Parameter | 42B | 104B | ~40B | 95B |
| Kontext | 1M | 1,048,576 | 1,048,576 | 262,144 nativ, bis zu 1,010,000 |
| Eingabe | Text, Bild, Video, Audio | Text, Bild, Video | Text | Text |
| Lizenz | Muse-Modell-Lizenz | Kimi K3-Lizenz | glm-5.3-Lizenz | qwen3.8-max-Lizenz |
| Veröffentlichte Gewichte | BF16, NVFP4 | MXFP4 (QAT) | BF16, FP8 | BF16 |
| AA Intelligence Index (via Meta) | 39 | 44 | 45 | 40 |
| Terminal-Bench 2.1, Terminus 2 (via Meta) | 76.4 | 85.0 | 83.9 | 82.0 |
| MCP-Atlas (via Meta) | 89.2 | 82.3 | 84.2 | 84.5 |
| Toolathlon Verified (Anbieter) | 72.8 | 76.5 | 73.0 | 72.5 |
| HLE mit Tools (Anbieter) | 61.0 | 56.0 | 62.5 | 56.2 |
| DeepSWE 1.1 (Anbieter, eigener Harness) | 60 | 67.5 | 66.9 | 56.6 |
| Desktop-Setup | 2x M5 Ultra Mac Studio | Nicht offengelegt | Nicht offengelegt | Nicht offengelegt |
Wichtigste Erkenntnisse
- 816B gesamt, 42B aktiv, 1M Kontext, Text-/Bild-/Video-/Audio-Eingabe.
- Führt Metas Open-Model-Tabelle bei MCP-Atlas (89.2) und JobBench (61.8) an.
- Liegt bei Terminal-Bench 2.1 (76.4) hinter Kimi K3, GLM 5.3 und Qwen3.8 zurück.
- NVFP4-Build läuft auf 2 M5 Ultra Mac Studios via MLX.
- Kostenlos für die meisten; MaaS-Anbieter mit einem Umsatz über $20M benötigen eine Vereinbarung.
Schauen Sie sich die Modellgewichte, Forschungsblog, Entwicklerleitfaden und Evaluationsmethodologie. Anerkennung gebührt dem Forscher dieses Projekts. Folgen Sie uns außerdem gerne auf Twitter und vergessen Sie nicht, unserem 150k+ML SubReddit beizutreten und unseren Newsletterzu abonnieren. Moment! Sind Sie auf Telegram? jetzt können Sie uns auch auf Telegram beitreten.
Der Beitrag Meta Releases Muse Spark Open: 816B Open-Weight MoE With 1M Context erschien zuerst auf MarkTechPost.