Pré-release / build continu : il s'agit d'un build expérimental, pas d'une version stable.
tests : consolidation des tests d'état du contexte dans test-llama-context (#30023) * tests : consolidation des tests d'état du contexte dans test-llama-context test-save-load-state, test-recurrent-state-rollback et test-state-restore-fragmented vérifient le même objet depuis trois endroits : le cache KV et l'état récurrent d'un llama_context, sauvegardé, chargé, copié, restauré en arrière. Chacun avait son propre main, sa propre boucle sur les modèles, sa propre copie des utilitaires de token et de comparaison, et une exécution des trois chargeait les mêmes modèles plusieurs fois. Ils ne forment plus qu'un seul binaire, et le cas est l'unité du test : tests/llama-context/test-case.h l'interface qu'un cas implémente tests/llama-context/cases-kv.cpp les cas du cache KV tests/llama-context/cases-rs.cpp les cas de l'état récurrent tests/llama-context/test-util.cpp tokens, génération, comparaison tests/llama-context/test-runner.cpp les modèles d'un cas, sur des threads tests/llama-context/test-log.cpp le fichier de log d'un modèle Une exécution est un tableau : une ligne par modèle, une colonne par cas, une cellule contient le verdict de cette paire. Les modèles se chargent sur plusieurs threads (-j, --threads, min(cores, 4) par défaut), le tableau est affiché lorsqu'il est complet et le log d'un modèle qui a échoué est affiché après lui, dans l'ordre des lignes. Un cas renvoie un verdict et sa raison, et le runner est le seul à faire des rapports - le test n'utilise pas tests/testing.h, une exécution sur 130 modèles est une matrice de verdicts et non un arbre de sous-tests. Le staging ne passe plus par l'environnement : llama_model_set_attn_rot remplace la variable LLAMA_ATTN_ROT_DISABLE, qu'un modèle chargé dans un thread modifiait pour les modèles que les autres threads chargeaient, et llama_memory_get_buffers est ajouté pour les cas qui copient les tampons d'une mémoire. common_log_set_stdo garde la console silencieuse pendant que le tableau est construit. ggml_aligned_malloc alloue avec posix_memalign quand le thread sanitizer est actif. Sur macOS il alloue avec la VM Mach, que le sanitizer n'intercepte pas, si bien qu'il ne voit jamais une plage de pages changer de main et signale la première écriture dans une mémoire recyclée comme une course - 30 dans ce test, et toutes fausses. Assisted-by: pi:llama.cpp/Qwen3.8-Flash-Next * cont : exécution mono-thread par défaut * cont : essai de compilation des tests sur toutes les plateformes * cont : réduction de la masse graisseuse * cont : correction * cont : correction de la correctionSite web : - https://llama.app
Attestations : - https://github.com/ggml-org/llama.cpp/attestations/55569169
macOS/iOS : - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI activé) DÉSACTIVÉ - macOS Intel (x64) - XCFramework iOS
Linux : - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliothèques CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation
Android : - Android arm64 (CPU) - Android arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation
Windows : - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - DLLs CUDA 12.4 - Windows x64 (CUDA 13) - DLLs CUDA 13.4 - Windows arm64 (CUDA 13) - DLLs CUDA 13.4 - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)
openEuler : - DÉSACTIVÉ - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph)
Interface : - UI