MarkTechPostActualizado el

Meta lanza Muse Spark Open: MoE de pesos abiertos de 816B con contexto de 1M

Meta lanzó Muse Spark Open, un modelo MoE de pesos abiertos de 816B parámetros con 42B parámetros activos y un contexto de 1M tokens. Lidera los modelos abiertos en MCP-Atlas y funciona en 2 Mac Studios M5 Ultra. La…

Meta Superintelligence Labs ha lanzado Muse Spark Open, la versión de pesos abiertos de su modelo Muse Spark. Muse Spark Open es un modelo Mixture-of-Experts de 816B parámetros que activa 42B parámetros por token. Acepta entrada de texto, imagen, video y audio, devuelve texto, y tiene una ventana de contexto de 1M tokens. El equipo de Meta afirma que es el modelo de pesos abiertos de EE. UU. más capaz hasta la fecha. Para los desarrolladores, la verdadera noticia es el despliegue: la versión NVFP4 funciona en 2 Apple Mac Studios M5 Ultra.

TL;DR

  • Tamaño: 816B parámetros totales / 42B activos (256 expertos, 8 activos por token); contexto de 1M tokens.
  • Funciona en: 2 Mac Studios (M5 Ultra, 512 GB cada uno) vía MLX; 4 GPUs Blackwell Ultra u 8 H200 con NVFP4; configuraciones de unos 300 GB vía GGUF de 2 bits de Unsloth.
  • Rendimiento: Fuerte en uso agéntico de herramientas; término medio entre los grandes modelos abiertos en programación.
  • Mejor: MCP-Atlas 89.2, la puntuación más alta en la tabla comparativa de Meta.
  • Peor: Terminal-Bench 2.1 76.4, por detrás de Kimi K3 (85.0), GLM 5.3 (83.9) y Qwen3.8 (82.0).

¿Qué es Muse Spark Open?

Muse Spark Open es un modelo MoE nativamente multimodal de Meta, diseñado para programación y trabajo agéntico de largo alcance. Los pesos se publican en BF16 y NVFP4 en Hugging Face. La versión abierta recibió entrenamiento posterior adicional de seguridad. El equipo de Meta afirma que esto lo hace más robusto sin salvaguardas a nivel de sistema.

¿Cómo funciona la arquitectura?

La ficha del modelo indica 62 capas y una dimensión oculta de 8192. Cada capa MoE contiene 256 expertos, y el enrutamiento top-k activa 8 por token. La atención es de tipo grouped-query, con 128 cabezas de consulta y 16 cabezas KV. Un Perception Encoder separado de 1.8B parámetros gestiona la entrada visual. El vocabulario tiene 202,048 tokens, y los datos de entrenamiento cubren más de 100 idiomas.

La profundidad de razonamiento se establece con reasoning_effort: low, medium, high o xhigh. El valor predeterminado es xhigh.

¿Cómo rinde Muse Spark Open en los benchmarks?

Meta lo compara con Kimi K3, GLM 5.3, Qwen3.8-2.4T-A95B y otros con el máximo esfuerzo de razonamiento. Sus resultados más sólidos se encuentran en el uso de herramientas y la fiabilidad del conocimiento:

  • MCP-Atlas: 89.2, por delante de Qwen3.8 (84.5) y GLM 5.3 (84.2).
  • JobBench: 61.8, apenas por delante de GLM 5.3 (61.4).
  • HLE-Diamond, sin herramientas: 26.1, frente a 22.2 para Kimi K3.
  • AA Omnisciencia: 25, la puntuación más alta en la tabla de Meta.
  • ZeroBench con herramientas: 50.0, frente a 41.0 para Kimi K3.

La programación es su punto débil. En Terminal-Bench 2.1 con el harness Terminus 2, obtiene 76.4. Kimi K3 alcanza 85.0, GLM 5.3 consigue 83.9 y Qwen3.8 obtiene 82.0. Su Artificial Analysis Intelligence Index es 39. Eso lo sitúa por detrás de GLM 5.3 (45), Kimi K3 (44) y Qwen3.8 (40). Así que «la más capaz de EE. UU.» se mantiene, pero los modelos abiertos chinos siguen liderando en general.

Algunas puntuaciones de rivales son autoinformadas; las metodología de evaluación enumera cada fuente.

¿Qué hardware necesita Muse Spark Open?

Según lo indicado por Meta en su guía para desarrolladores, los pesos en BF16 pesan unos 1.6 TB. NVFP4 cuantiza solo los expertos y queda cerca de 530 GB. La ficha del modelo recomienda al menos 700 GB de VRAM para NVFP4 y 2 TB para BF16.

  • Centro de datos: NVFP4 en 4 GPU Blackwell Ultra u 8 H200.
  • Escritorio: 2 Mac Studios M5 Ultra con 512 GB cada uno, conectados mediante Thunderbolt 5 con RDMA. MLX el paralelismo de tensores divide cada capa entre ambas máquinas.
  • Estación de trabajo: Unsloth Dynamic GGUFs hasta 2 bits caben en unos 300 GB de memoria combinada.

¿Dónde pueden ejecutarlo los desarrolladores?

Los motores disponibles desde el primer día incluyen SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, MLX, llama.cpp y Unsloth. Las API alojadas están disponibles en Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter y Together AI. OpenRouter cuesta $1.25 por 1M de tokens de entrada y $4.25 por 1M de tokens de salida.

Dos modelos borrador aceleran la decodificación: DFlash V2 para SGLang y DSpark para vLLM. Meta informa una mejora de 3.7x en el rendimiento de solicitudes individuales con DFlash V2 en AMD MI355X. El ajuste fino funciona con TorchTitan, Hugging Face TRL y NVIDIA NeMo AutoModel.

¿Qué permite la Muse Model License?

La Muse Model License permite el uso, el fine-tuning, la destilación y la redistribución. 2 condiciones son las más importantes:

  • Los productos deben mostrar “Built with Muse Spark Open.”
  • Los proveedores de Model-as-a-Service con más de $20M de ingresos en 12 meses necesitan un acuerdo aparte con Meta.

El uso interno, la investigación y la alimentación de las funciones de tu propio producto están exentos de la cláusula de ingresos.

Muse Spark Open vs Kimi K3 vs GLM 5.3 vs Qwen3.8

CaracterísticaMuse Spark OpenKimi K3GLM 5.3Qwen3.8-2.4T-A95B
Parámetros totales816B2.8T753B2.4T
Parámetros activos42B104B~40B95B
Contexto1M1,048,5761,048,576262,144 nativos, hasta 1,010,000
EntradaTexto, imagen, video, audioTexto, imagen, videoTextoTexto
LicenciaLicencia de Modelos MuseLicencia Kimi K3licencia de glm-5.3licencia de qwen3.8-max
Pesos publicadosBF16, NVFP4MXFP4 (QAT)BF16, FP8BF16
AA Intelligence Index (vía Meta)39444540
Terminal-Bench 2.1, Terminus 2 (vía Meta)76.485.083.982.0
MCP-Atlas (vía Meta)89.282.384.284.5
Toolathlon Verified (proveedor)72.876.573.072.5
HLE con herramientas (proveedor)61.056.062.556.2
DeepSWE 1.1 (proveedor, entorno propio)6067.566.956.6
Configuración de escritorio2x M5 Ultra Mac StudioNo reveladoNo reveladoNo revelado

Conclusiones clave

  • 816B totales, 42B activos, contexto de 1M, entrada de texto/imagen/video/audio.
  • Lidera la tabla de modelos abiertos de Meta en MCP-Atlas (89.2) y JobBench (61.8).
  • Queda por detrás de Kimi K3, GLM 5.3 y Qwen3.8 en Terminal-Bench 2.1 (76.4).
  • La versión NVFP4 funciona en 2 M5 Ultra Mac Studios mediante MLX.
  • Gratuito para la mayoría; los proveedores de MaaS con ingresos superiores a $20M necesitan un acuerdo.


Consulte los pesos del modelo, blog de investigación, guía para desarrolladores y metodología de evaluación. Todo el crédito es para el investigador de este proyecto. Además, no dude en seguirnos en Twitter y no olvide unirse a nuestro 150k+ML SubReddit y suscribirse a nuestro boletín. ¡Espere! ¿está en telegram? ahora también puede unirse a nosotros en telegram.

La entrada Meta Releases Muse Spark Open: 816B Open-Weight MoE With 1M Context apareció primero en MarkTechPost.

Fuente original

MarkTechPost

Notas sobre el contenido

La publicación original y los derechos pertenecen a la fuente.

Traducción automática · Consulte el original