llama.cpp Releases2026-10-16 08:18 UTC+8

[Versión previa al lanzamiento / compilación continua] b11671

[Versión previa al lanzamiento / compilación continua] model: add Muse Spark Open (text, vision and audio) (#30616) * model: añadir Muse Spark Open (texto, visión y audio) Muse Spark Open es un MoE de espacio latente: el…

Versión previa al lanzamiento / compilación continua: esta es una compilación experimental, no una versión estable.

model: añadir Muse Spark Open (texto, visión y audio) (#30616) * model: añadir Muse Spark Open (texto, visión y audio) Muse Spark Open es un MoE de espacio latente: el flujo residual permanece en 8192 mientras que los 256 expertos viven en 4096, con una proyección hacia abajo y hacia arriba a su alrededor, enrutamiento sigmoid top-8 con un sesgo de corrección. La atención intercala tres capas deslizantes con una ventana de 2048 con rope para una capa global sin rope, con una puerta de salida sigmoid y una QK-norm sin pesos. Los residuos preservan la norma, su puerta se pliega en el momento de la conversión. La visión reutiliza la torre Muse Glimmer. El audio es una pirámide convolucional causal sin atención y sin espectrograma, con cuatro etapas que pliegan 16, 6, 5 y 4 muestras en la dimensión de canal, un embedding por cada 80 ms de 24 kHz. El cuantizador mantiene las proyecciones latentes y la puerta de atención en Q8_0, algo más del 1% de los pesos, ya que todo el flujo residual pasa a través de ellos y los tipos de pocos bits convertían la salida en un bucle repetitivo. El guardador del modelo escribe el epsilon del post norm, y la arquitectura está registrada en test-llama-archs. Co-authored-by: Xuan Son Nguyen Co-authored-by: Pedro Cuenca * Muse Spark: eliminar la expansión directa redundante * Muse Spark: eliminar la expansión directa redundante y ajustar los comentarios * Update src/llama-quant.cpp Co-authored-by: Sigbjørn Skjæret * Update src/llama-graph.cpp Co-authored-by: Sigbjørn Skjæret * Update conversion/muse_spark.py Co-authored-by: Sigbjørn Skjæret * Update conversion/muse_spark.py Co-authored-by: Sigbjørn Skjæret * Update conversion/muse_spark.py Co-authored-by: Sigbjørn Skjæret * Update conversion/muse_spark.py Co-authored-by: Sigbjørn Skjæret --------- Co-authored-by: Xuan Son Nguyen Co-authored-by: Pedro Cuenca Co-authored-by: Sigbjørn Skjæret

Sitio web: - https://llama.app

Atestaciones: - https://github.com/ggml-org/llama.cpp/attestations/56481361

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI habilitado) DISABLED - macOS Intel (x64) - iOS XCFramework

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Librerías CUDA 12.8 - Ubuntu x64 (CUDA 13) - Librerías CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Librerías CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, GPU Adreno, NPU Hexagon) - guía de configuración