llama.cpp Releases

[Pré-version / build continu] b11411

[Pré-version / build continu] kv-cache : correction de la restauration d'une rotation de cache KV inadaptée en sauvegardant les métadonnées de rotation exactes (#28498) * kv-cache : sauvegarde des métadonnées de rotation…

Pré-version / build continu : il s'agit d'un build expérimental, et non d'une version stable.

kv-cache : correction de la restauration d'une rotation de cache KV inadaptée en sauvegardant les métadonnées de rotation exactes (#28498) * kv-cache : sauvegarde des métadonnées de rotation KV exactes, rejet de la restauration d'une rotation inadaptée * tests : déplacement du test de rotation d'état vers test-save-load-state le test fait désormais partie de la matrice de tests save/load et s'exécute contre chaque modèle testé, comme le reste de la suite il explore les combinaisons de types de cache KV prises en charge par le modèle et considère que les modèles n'utilisant pas de rotation d'attention passent de manière vacue Assisted-by: pi:llama.cpp/Qwen3.8-27B * cont : ignorer les caches KV non pris en charge --------- Co-authored-by: Georgi Gerganov

Site Web : - https://llama.app

Attestations : - https://github.com/ggml-org/llama.cpp/attestations/52781521

macOS/iOS : - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI activé) DÉSACTIVÉ - macOS Intel (x64) - XCFramework iOS

Linux : - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliothèques CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation

Android : - Android arm64 (CPU) - Android arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation

Windows : - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - DLLs CUDA 12.4 - Windows x64 (CUDA 13) - DLLs CUDA 13.4 - Windows arm64 (CUDA 13) - DLLs CUDA 13.4 - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)

openEuler : - DÉSACTIVÉ - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph)

UI : - UI

Source originale

llama.cpp Releases

À propos du contenu

La publication originale et les droits appartiennent à la source.

Traduction automatique · Consultez l’original