llama.cpp ReleasesMis à jour le

[Prélivraison / build continu] b11632

[Prélivraison / build continu] cuda, hip : noyau GDN par morceaux (#29353) * cuda, hip : noyau GDN par morceaux Porté depuis : https://github.com/tetherto/qvac-fabric-llm.cpp/pull/257 Commit source…

Prélivraison / build continu : il s'agit d'un build expérimental, pas d'une version stable.

cuda, hip : noyau GDN par morceaux (#29353) * cuda, hip : noyau GDN par morceaux Porté depuis : https://github.com/tetherto/qvac-fabric-llm.cpp/pull/257 Commit source : 53f0027d8070715fe9ad2131f3201bb0001d4eed Co-auteur : Aman Gupta * correction des anciens builds * corrections suite à relecture * cuda : activer GDN MMA sur les GPU Ampere et Ada testés Activer SM86 et SM89 après les tests de correction et benchmarks de préremplissage sur RTX 3090 et RTX 4090. Garder les autres architectures non testées sur le mécanisme de repli existant. Assisté par : Codex * cuda : utiliser l'API swizzle refactorisée dans GDN MMA * ggml : GDN ne garantit l'état final que lorsque n_tokens > K * cuda : ajouter de brefs commentaires sur les phases GDN MMA --------- Co-auteur : gianni-cor Co-auteur : Aman Gupta

Site web : - https://llama.app

Attestations : - https://github.com/ggml-org/llama.cpp/attestations/56096976

macOS/iOS : - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI activé) DÉSACTIVÉ - macOS Intel (x64) - XCFramework iOS

Linux : - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliothèques CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation

Android : - Android arm64 (CPU) - Android arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation

Windows : - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - DLLs CUDA 12.4 - Windows x64 (CUDA 13) - DLLs CUDA 13.4 - Windows arm64 (CUDA 13) - DLLs CUDA 13.4 - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)

openEuler : - DÉSACTIVÉ - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph)

IU : - IU

Source originale

llama.cpp Releases

À propos du contenu

La publication originale et les droits appartiennent à la source.

Traduction automatique · Consultez l’original