llama.cpp ReleasesPublicación de la fuente2026-10-21 06:58 UTC+8

[Pre-release / compilación continua] b11763

Pre-release / compilación continua: esta es una compilación experimental, no una versión estable.

opencl: añadir varias variantes de gemm para lotes pequeños y algunas correcciones (#30850) * opencl: corregir lectura OOB en `mul_mv_mxfp4_f32_flat` * opencl: eliminar la protección de N grande que fuerza la colocación de pesos en CPU * esta condición afirma que un lote grande produce resultados incorrectos en adreno y no se puede reproducir * el cargador de modelos usa N512 para sondear el soporte de operaciones, lo que resulta en un fallback a CPU * por lo tanto, esta condición no parece necesaria * opencl: limitar el número de subgrupos según el tamaño del workgroup para q4_0 mc3 Co-authored-by: Hongqiang Wang * opencl: añadir variante de lote pequeño para q4_k dp4a GEMM Co-authored-by: Hongqiang Wang * opencl: añadir una variante estrecha de mul_mm_f16_f32_l4_lm Co-authored-by: Hongqiang Wang * opencl: añadir una variante de un solo subgrupo para gemv_noshuffle_q1_0_f32 para M grande Co-authored-by: Hongqiang Wang --------- Co-authored-by: Hongqiang Wang

Sitio web: - https://llama.app

Atestaciones: - https://github.com/ggml-org/llama.cpp/attestations/57990792

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI habilitado) DESACTIVADO - macOS Intel (x64) - XCFramework de iOS

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliotecas CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - guía de configuración