llama.cpp Releases2026-10-08 23:49 UTC+8

[Pré-version / build continu] b11509

[Pré-version / build continu] CUDA : correction de la garde de version CCCL qui cassait lors du passage à une version majeure supérieure (#29453) * CUDA : correction de la garde de version CCCL qui cassait lors du…

Pré-version / build continu : il s'agit d'un build expérimental, pas d'une version stable.

CUDA : correction de la garde de version CCCL qui cassait lors du passage à une version majeure supérieure (#29453) * CUDA : correction de la garde de version CCCL qui cassait lors du passage à une version majeure supérieure La garde comparait indépendamment les composantes majeure et mineure : CCCL_MAJOR_VERSION >= 3 && CCCL_MINOR_VERSION >= 1 La mineure repasse à 0 chaque fois qu'une nouvelle série majeure est créée, donc sur CCCL 4.x cela s'évalue comme 4 >= 3 && 0 >= 1, c'est-à-dire faux. STRIDED_ITERATOR_AVAILABLE cesse d'être défini et argsort retombe silencieusement sur le chemin init_offsets. Rien ne signale quoi que ce soit et la compilation réussit toujours, si bien que la régression est une perte silencieuse de performance plutôt qu'une erreur de compilation. CCCL expose déjà la version sous la forme d'un entier compact au format MMMmmmpp, ce que son propre en-tête de version utilise : CCCL_VERSION = MAJOR * 1000000 + MINOR * 1000 + PATCH ainsi 3.4.3 vaut 3004003 et « >= 3.1 » est un simple « >= 3001000 ». Une seule comparaison, sans arithmétique de composantes susceptible d'être erronée. Vérifié par rapport à une référence manuscrite « version >= 3.1 » sur 2.9.9, 3.0.0, 3.1.0, 3.1.99, 3.2.0, 3.4.3, 3.9.9, 3.99.99, 4.0.0, 4.2.7 et 5.0.0 : aucune divergence. L'ancienne garde différait à 4.0.0 et 5.0.0. Vérifié sur RTX 4070 (sm_89), CUDA 13.4, CCCL 3.4.3 : - cmake --build build --config Release : exit 0 - test-backend-ops test -o ARGSORT -b CUDA0 : 98/98 réussis, CUDA0 OK Notez qu'un test de régression réussi ne prouve pas à lui seul que la garde est toujours prise, puisque le chemin de repli réussit aussi. Le prétraitement de l'unité de translation réelle confirme que la branche strided-iterator est celle compilée : counting_iterator est présent, init_offsets ne l'est pas. Signed-off-by: Heitor * Update ggml/src/ggml-cuda/argsort.cu * Apply suggestion from @ORippler --------- Signed-off-by: Heitor Co-authored-by: Oliver Simons

Site web : - https://llama.app

Attestations : - https://github.com/ggml-org/llama.cpp/attestations/53997029

macOS/iOS : - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI activé) DÉSACTIVÉ - macOS Intel (x64) - iOS XCFramework

Linux : - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliothèques CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation