Pré-publication / build continu : il s'agit d'un build expérimental, et non d'une version stable.
hexagon : optimisation de CPY/CONCAT — round 3, édition lignes courtes (#30341) * hexagon : déplacement du CPY de conversion en blocs de lignes par descripteur DMA afin que les lignes courtes ne soient pas limitées par la latence DMA * hex-cpy : nettoyage de la gestion du curseur cpy * hex-cpy-concat : introduction d'un assistant threadé de collecte de lignes dma/hvx Co-authored-by: Ruslan Karymov <67752306+karusrus@users.noreply.github.com> * hex-cpy : suppression des rejections résiduelles pour les buffers étendus * hex-cpy : assouplissement de la porte pour le fast-path * hex-cpy : suppression des divisions scalaires et de l'accès vtcm et utilisation explicite de gather_sync * hex-cpy : ajout d'un support correct du découpage de travail mdev au fastpath * hex-cpy : optimisation des tâches denses de collecte de lignes * hex-cpy : déroulage des boucles gather-rows * hex-cpy : ajout d'un fastpath pour f16 * hex-cpy-concat : support de la fusion des dimensions 3/4D * hex-cpy : support du double buffering * hex-cpy : extraction de gather-rows en une opération plus autonome * hex-cpy-concat : déduplication des kernel-params * hex-cpy-concat : réduction progressive de nr pour s'adapter au lieu d'un échec dur * hex-gather : remplacement de la division par un masque * hex-gather-rows : nettoyage du pipeline dma et suppression des stalls * hex-gather : spécialisation des fonctions de calcul * hex-gather : réduction des reg.spills scalaires et des appels de fonctions * hex-gather : ne pas recalculer les lignes par thread sur le npu * hex-build : ajout du support pour compiler/installer uniquement hexagon * hex-cpy-concat : suppression de la barrière redondante dans concat et déplacement de la barrière cpy sous la fence * hex-gather : annotations pour dma-out * hex-mdev : rendu atomique de tout l'état de synchronisation clé de vtcm_acquire (corrige des blocages aléatoires dans les configurations mdev) --------- Co-authored-by: Yiwei Shao Co-authored-by: Ruslan Karymov <67752306+karusrus@users.noreply.github.com>Site Web : - https://llama.app
Attestations : - https://github.com/ggml-org/llama.cpp/attestations/55095068
macOS/iOS : - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI activé) DÉSACTIVÉ - macOS Intel (x64) - XCFramework iOS
Linux : - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliothèques CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation
Android : - Android arm64 (CPU) - Android arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation
Windows : - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - DLL CUDA 12.4 - Windows x64 (CUDA 13) - DLL CUDA 13.4 - Windows arm64 (CUDA 13) - DLL CUDA 13.4 - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)
openEuler : - DÉSACTIVÉ - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph)
UI : - UI