llama.cpp Releases2026-10-08 22:37 UTC+8

[Pre-release / continuous build] b11505

[Pre-release / continuous build] vulkan : fix TOP_K para entradas +inf/NaN y k = 1 con valores negativos (#30107) La búsqueda de cubetas en topk_nary_search.comp comenzaba desde el rango [0, 0xFF800000), que termina…

Pre-release / continuous build: esta es una compilación experimental, no una versión estable.

vulkan : fix TOP_K para entradas +inf/NaN y k = 1 con valores negativos (#30107) La búsqueda de cubetas en topk_nary_search.comp comenzaba desde el rango [0, 0xFF800000), que termina justo por debajo del mapeo ordered-uint de +inf, por lo que +inf y NaN nunca se contaban. Un bloque de workgroup con menos de k valores contables dejaba la papeleta vacía y el shader leía estado compartido sin inicializar (cuelgue/pérdida de dispositivo en NVIDIA, índices incorrectos en AMD), y unos pocos +inf en un bloque se seleccionaban sin contarse, descartando valores superiores reales. Mapear NaN a -inf en la entrada, comenzar desde [0, 0xFFFFFFFF) para que cada valor se cuente, y limitar el final de la cubeta superior (2^32) en lugar de hacer wrap a 0. La ruta k = 1 comparaba los bits de float como enteros con signo, lo que ordena los valores negativos al revés; comparar floats en su lugar. Añadir test_top_k_inf a test-backend-ops: valores negativos, menos de k +inf y muchos -inf, para k = 1, 10, 40. Assisted-by: Claude Opus 5.5

Sitio web: - https://llama.app

Attestations: - https://github.com/ggml-org/llama.cpp/attestations/53971594

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI habilitado) DISABLED - macOS Intel (x64) - iOS XCFramework

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliotecas de CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliotecas de CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliotecas de CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - guía de configuración