llama.cpp ReleasesPublicación de la fuente2026-10-20 21:48 UTC+8

[Pre-release / compilación continua] b11756

Pre-release / compilación continua: esta es una compilación experimental, no una versión estable.

server : pasar id_slot a través de la conversión de Anthropic /v1/messages (#28554) * server : pasar id_slot a través de la conversión de Anthropic /v1/messages server_chat_convert_anthropic_to_oai copia una pequeña lista blanca de parámetros comunes de la solicitud de Anthropic al cuerpo interno estilo OAI y dejó fuera id_slot. Todos los demás endpoints de completion respetan id_slot; un proxy que fija una sesión al slot que contiene su caché KV necesita lo mismo en /v1/messages, o cae silenciosamente a la selección automática de slot y, en modelos híbridos/recurrentes, paga un re-prefill completo. Añade una prueba que afirma que una solicitud con id_slot establecido es atendida por ese slot, observado mediante GET /slots. * server : acortar comentarios * rm test --------- Co-authored-by: Xuan Son Nguyen

Website: - https://llama.app

Attestations: - https://github.com/ggml-org/llama.cpp/attestations/57810098

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI enabled) DISABLED - macOS Intel (x64) - iOS XCFramework

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliotecas CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, GPU Adreno, NPU Hexagon) - guía de configuración