llama.cpp ReleasesPublication de la source2026-10-21 06:58 UTC+8

[Pré-release / build continu] b11763

Pré-release / build continu : il s'agit d'un build expérimental, et non d'une version stable.

opencl : ajout de plusieurs variantes gemm pour les petits lots et quelques corrections (#30850) * opencl : correction d'une lecture OOB dans `mul_mv_mxfp4_f32_flat` * opencl : suppression de la garde large-N qui force le placement des poids sur CPU * cette condition prétend que les grands lots produisent des résultats incorrects sur adreno et ne peut pas être reproduite * le chargeur de modèle utilise N512 pour sonder la prise en charge des opérations, entraînant un repli sur CPU * cette condition ne semble donc pas nécessaire * opencl : plafonnement du nombre de sous-groupes par la taille du workgroup pour q4_0 mc3 Co-authored-by: Hongqiang Wang * opencl : ajout d'une variante pour petits lots pour le GEMM q4_k dp4a Co-authored-by: Hongqiang Wang * opencl : ajout d'une variante étroite de mul_mm_f16_f32_l4_lm Co-authored-by: Hongqiang Wang * opencl : ajout d'une variante à un seul sous-groupe pour gemv_noshuffle_q1_0_f32 pour les grands M Co-authored-by: Hongqiang Wang --------- Co-authored-by: Hongqiang Wang

Site web : - https://llama.app

Attestations : - https://github.com/ggml-org/llama.cpp/attestations/57990792

macOS/iOS : - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI activé) DÉSACTIVÉ - macOS Intel (x64) - iOS XCFramework

Linux : - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliothèques CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation