Pré-version / build continu : il s'agit d'un build expérimental, pas d'une version stable.
rpc : transformer GGML_RPC_DEBUG en niveau de verbosité et ajouter des logs (#29544) * rpc : transformer GGML_RPC_DEBUG en niveau de verbosité et ajouter des logs GGML_RPC_DEBUG est désormais analysé comme un nombre : 0/non défini désactive les logs de débogage, 1-3 émettent une sortie de plus en plus détaillée (événements, trace par commande, détails du transport). Les valeurs non numériques reviennent à 1. Les blocs env/macro dupliqués dans ggml-rpc.cpp et transport.cpp sont remplacés par un log.h partagé, qui devient le point de passage unique pour tous les logs du backend RPC : LOG_ERROR/LOG_WARN/LOG_INFO pour les logs de sévérité inconditionnels et LOG_DBG/LOG_DBG2/LOG_DBG3 pour ceux conditionnés par la verbosité. Les fichiers de transport n'ont plus besoin de ggml-impl.h, et la bannière du serveur passe également par le logger ggml (stderr). Des logs manquants sont ajoutés côté client (handshake, opérations de buffer, transferts de tenseurs, calculs de graphes, décisions de cache) et côté serveur (dispatch par commande, nœuds de graphe), y compris le transport négocié via le nouveau socket_t::transport_name(). Assisted-by : pi:llama.cpp/MiMo-V2.6-Flash-RL * rpc : aligner les niveaux de log avec la sémantique de verbosité documentée La première passe a introduit les niveaux GGML_RPC_DEBUG, mais de nombreux sites d'appel ne respectaient pas la sémantique documentée et certains logs contournaient entièrement les macros : - Acheminer les sites d'appel GGML_LOG_* bruts restants via les macros LOG_* locales afin que log.h reste le point de passage unique pour les logs RPC - Émettre les transferts par tenseur et les traces de gestionnaire par commande au niveau 2, et les événements de cycle de vie ponctuels (création des types de backend et de buffer, allocation de buffer, calcul de graphe, éviction du cache de graphes) au niveau 1 - Supprimer la trace d'enqueue dupliquée dans rpc_dispatcher::send, work() journalise déjà chaque commande dispatchée avec son temps aller-retour - Promouvoir les événements de fonctionnement dégradé en LOG_WARN : échec d'allocation distante, repli de RDMA vers TCP, déconnexion inattendue du pair - Journaliser l'éviction du cache de graphes des deux côtés, car le client et le serveur doivent rester synchronisés pour que la mise à jour incrémentale du graphe soit valide - Distinguer Unknown command (opcode hors plage) de Unhandled command (opcode valide sans gestionnaire) - Corriger les spécificateurs de format (%zu pour size_t, %u pour les ids de périphériques, 0x pour les pointeurs hexadécimaux) et un saut de ligne manquant dans un log d'erreur - Documenter que les applications llama.cpp abandonnent les enregistrements de débogage ggml à moins que le seuil de verbosité ne soit augmenté avec -lv 5 Assisted-by : pi:llama.cpp/Qwen3.8-Flash-NextSite web : - https://llama.app
Attestations : - https://github.com/ggml-org/llama.cpp/attestations/54812036
macOS/iOS : - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI activé) DÉSACTIVÉ - macOS Intel (x64) - XCFramework iOS
Linux : - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliothèques CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation
Android : - Android arm64 (CPU) - Android arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation
Windows : - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - DLLs CUDA 12.4 - Windows x64 (CUDA 13) - DLLs CUDA 13.4 - Windows arm64 (CUDA 13) - DLLs CUDA 13.4 - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)
openEuler : - DÉSACTIVÉ - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph)
UI : - UI