llama.cpp Releases2026-10-16 13:28 UTC+8Mis à jour le 2026-10-17 10:08 UTC+8

[Pré-version / build continu] b11680

[Pré-version / build continu] hexagon : refonte du repacking des tenseurs et prise en charge des poids quantisés et fp, en tuiles et à plat (#30635) * hex-repack : suppression du hack need_repack et simplification des…

Pré-version / build continu : il s'agit d'un build expérimental, pas d'une version stable.

hexagon : refonte du repacking des tenseurs et prise en charge des poids quantisés et fp, en tuiles et à plat (#30635) * hex-repack : suppression du hack need_repack et simplification des règles -- casse les tests GET_ROWS pour les K-Quants, sera corrigé au prochain tour Ajout de la prise en charge de GET_ROWS avec Q5_K en tuiles Ajout de la prise en charge des tenseurs k-quant bruts * hex-get-rows : vectorisation des ukernels k-quant bruts * hex-binary : refactoring des fonctions de threads de la boucle dma (plus besoin de macros, etc.) * hex-quant : déplacement/nettoyage des ukernels de dequant à plat et en tuiles * hex-repack : ajout de la prise en charge du repacking/tiling des poids 2D F16/F32/BF16 * hex-get-rows : suppression d'un cast redondant * hex-repack : filtrage correct pour BF16 qui fuyaient pendant les tests * hex-repack : rationalisation des règles de tiling (MM cassé pour l'instant) * hex-repack : correction de mmid après les mises à jour du tiling * hex-repack : renommage de repacked en tiled dans tous les flags/fonctions/kernels/variables * hex-mm : correction du calcul de valid_rows dans divers kernels * hex-mm : suppression de hvx_mm_nx_2d_flat inutilisé * hex-mm : nettoyage et optimisation de hvx-tiled vec_dot_f16 * hex-mm : nouvelle passe sur hvx-tiled f16 matmul * hex-get-rows : optimisation des petits src1 * hex-get-rows : nouvelle passe pour récupérer la régression de perf de get-rows * hex-repack : export de GGML_HEXAGON_RT_REPACK via run.py * hex-mm-tiled : correction de la régression de précision avec hmx-tiled-f16 matmul * hex-mm : intégration des vérifications tiled_f16 dans le flux général * hex-get-rows : suppression des vérifications mortes pour buffer_is_hexagon et le tiling pendant supports_op * hex-quant : gestion correcte des fins dans les nouveaux ukernels de dequant * hex-get-rows : suppression du code inutilisé et nettoyage des vérifications de prise en charge * hex-mm : nettoyage des vérifications de padding/tiling de ne1 * hex-mm : nettoyage des vérifications de fusion pour les tenseurs en tuiles * hex-repack : ajout d'un petit helper can_repack pour réduire la duplication * hex-repack : ne jamais repacker les buffers de l'hôte * hex-repack : extraction des fonctions de repack dans des fichiers .h et .cpp séparés * hex-tensor : nettoyage des ifaces de tenseur pour les tailles tiled/padded * hex-repack : mise à jour des commentaires de tiling k-quant et nettoyage des #defines * hex-dcache : extraction du suivi et du flushing l2/dcache dirty et flushing * hex-tensor : mise à jour de la documentation et suppression de la duplication des #defs * hex-tensor : suppression de l'interface get_data inutilisée/incorrecte * hex-get-rows : nettoyage de la construction du layout vtcm * tests : désactivation des tests MM énormes * hex-dcache : ajout de l'en-tête manquant

Site Web : - https://llama.app

Attestations : - https://github.com/ggml-org/llama.cpp/attestations/56541220

macOS/iOS : - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI activé) DÉSACTIVÉ - macOS Intel (x64) - XCFramework iOS

Linux : - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliothèques CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation