llama.cpp ReleasesPublicación de la fuente2026-10-28 04:11 UTC+8

[Pre-release / compilación continua] b11936

Pre-release / compilación continua: esta es una compilación experimental, no una versión estable.

llama : construir la selección dispersa del k-pool independientemente de la forma del kq_mask (#31243) * llama : construir la selección dispersa del k-pool independientemente de la forma del kq_mask qwen4exp (QSA) y glm5-next eligen celdas de caché por índice y ya no leen los valores del kq_mask, pero seguían dando forma a la selección como el kq_mask denso. Construya la selección como [n_kv, n_tokens] sobre las celdas de caché en su lugar, y divídala en los streams de la vista K justo antes de la atención. Esto permite que la máscara densa cambie su diseño (por ejemplo, listas de filas por secuencia) sin tocar las capas dispersas. * mejorar comentario Co-authored-by: Georgi Gerganov * llama : eliminar los argumentos no usados de build_fused_top_k_mask, retoques de revisión --------- Co-authored-by: Georgi Gerganov

Sitio web: - https://llama.app

Atestaciones: - https://github.com/ggml-org/llama.cpp/attestations/60550938

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI habilitado) DESACTIVADO - macOS Intel (x64) - XCFramework de iOS

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Librerías CUDA 12.8 - Ubuntu x64 (CUDA 13) - Librerías CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Librerías CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, GPU Adreno, NPU Hexagon) - guía de configuración