llama.cpp Releases2026-10-16 08:18 UTC+8

[Pré-publication / build continu] b11671

[Pré-publication / build continu] model : ajout de Muse Spark Open (texte, vision et audio) (#30616) * model : ajout de Muse Spark Open (texte, vision et audio) Muse Spark Open est un MoE à espace latent : le flux…

Pré-publication / build continu : il s'agit d'un build expérimental, pas d'une version stable.

model : ajout de Muse Spark Open (texte, vision et audio) (#30616) * model : ajout de Muse Spark Open (texte, vision et audio) Muse Spark Open est un MoE à espace latent : le flux résiduel reste à 8192 tandis que les 256 experts vivent en 4096, avec une projection descendante et montante autour d'eux, un routage sigmoïde top-8 avec un biais de correction. L'attention alterne trois couches glissantes avec une fenêtre de 2048 avec rope pour une couche globale sans rope, avec une porte de sortie sigmoïde et une QK-norm sans poids. Les résidus préservent la norme, leur porte est repliée au moment de la conversion. La vision réutilise la tour Muse Glimmer. L'audio est une pyramide convolutive causale sans attention ni spectrogramme, quatre étages repliant 16, 6, 5 et 4 échantillons dans la dimension de canal, un embedding par 80 ms de 24 kHz. Le quantiseur conserve les projections latentes et la porte d'attention en Q8_0, un peu plus de 1 % des poids, puisque tout le flux résiduel passe par elles et que les types basse précision transformaient la sortie en boucle répétitive. Le model saver écrit l'epsilon de post norm, et l'arch est enregistrée dans test-llama-archs. Co-authored-by : Xuan Son Nguyen Co-authored-by : Pedro Cuenca * Muse Spark : suppression de l'expand forward redondant * Muse Spark : suppression de l'expand forward redondant et resserrage des commentaires * Update src/llama-quant.cpp Co-authored-by : Sigbjørn Skjæret * Update src/llama-graph.cpp Co-authored-by : Sigbjørn Skjæret * Update conversion/muse_spark.py Co-authored-by : Sigbjørn Skjæret * Update conversion/muse_spark.py Co-authored-by : Sigbjørn Skjæret * Update conversion/muse_spark.py Co-authored-by : Sigbjørn Skjæret * Update conversion/muse_spark.py Co-authored-by : Sigbjørn Skjæret --------- Co-authored-by : Xuan Son Nguyen Co-authored-by : Pedro Cuenca Co-authored-by : Sigbjørn Skjæret

Site web : - https://llama.app

Attestations : - https://github.com/ggml-org/llama.cpp/attestations/56481361

macOS/iOS : - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI activé) DISABLED - macOS Intel (x64) - iOS XCFramework

Linux : - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliothèques CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation