llama.cpp Releases2026-10-09 22:53 UTC+8

[Pré-version / build continu] b11528

[Pré-version / build continu] meta : gestion des vues hôtes (#30217) * meta : gestion des vues de tenseurs alloués sur l'hôte Une vue partage la mémoire de son view_src, donc ggml-alloc n'alloue jamais une vue dans le…

Pré-version / build continu : il s'agit d'un build expérimental, pas d'une version stable.

meta : gestion des vues hôtes (#30217) * meta : gestion des vues de tenseurs alloués sur l'hôte Une vue partage la mémoire de son view_src, donc ggml-alloc n'alloue jamais une vue dans le tampon du split où elle atterrit - le planificateur copie la source dans le split et les ops qui utilisent la vue lisent cette copie. Le nœud de vue lui-même est un noop et n'a pas besoin de son propre split, mais le backend meta effectuait une assertion lorsqu'une vue rester à l'intérieur d'un split meta : - ggml_backend_meta_get_split_state() déréférençait tensor->buffer->context - la reconstruction du graphe mappait chaque nœud avec ggml_backend_meta_buffer_simple_tensor() Accepter de tels nœuds lorsqu'ils sont des vues de tenseurs hôtes, ce qui généralise aussi la précédente solution de contournement s_copy_main. Cela corrige l'assertion déclenchée par les vues du cache KV lors de l'utilisation de --split-mode tensor avec un offload partiel. Assisté par : pi:llama.cpp/Qwen3.8-Flash-Next * archs : réactiver sm tensor pour K2 Horizon * cont : ajouter TODO et référence

Site Web : - https://llama.app

Attestations : - https://github.com/ggml-org/llama.cpp/attestations/54357448

macOS/iOS : - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI activé) DISABLED - macOS Intel (x64) - iOS XCFramework

Linux : - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliothèques CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation