llama.cpp Releases2026-10-05 08:36 UTC+8

[Pré-release / build continu] b11401

[Pré-release / build continu] log, server : couleurs autonomes, séparation des commandes enfants des logs en mode router (#29895) * log, server : faire en sorte que les lignes enfants du router portent leurs propres…

Pré-release / build continu : il s'agit d'un build expérimental, pas d'une version stable.

log, server : couleurs autonomes, séparation des commandes enfants des logs en mode router (#29895) * log, server : faire en sorte que les lignes enfants du router portent leurs propres couleurs Le logger écrit la réinitialisation de couleur après le saut de ligne final, si bien que la réinitialisation ouvre la ligne suivante. Sur le tube partagé d'un enfant du router, elle se place devant la prochaine commande d'état, que le router rate alors, et le saut de ligne qui contourne le problème apparaît comme une ligne de log vide à chaque mise à jour de progression. La réinitialisation se trouve désormais avant les sauts de ligne finaux, ainsi chaque ligne est autonome et la commande retrouve son habillage simple. Le router transmet son réglage de couleur effectif à ses enfants, dont la sortie se retrouve dans son terminal, et laisse cette option de côté lors de la comparaison des presets au rechargement. * log : activer les couleurs ANSI sur la console Windows Une console Windows n'interprète les séquences ANSI qu'en mode terminal virtuel, que rien n'active pour le logger, si bien que llama-server affiche des codes d'échappement bruts sur la console Windows 10 tandis que llama-cli, dont le code console l'active, montre les couleurs. Le logger active désormais le mode terminal virtuel sur stdout et stderr lorsqu'il active les couleurs, et désactive les couleurs quand une console ne peut pas les afficher. Les tubes et les fichiers prennent les séquences telles quelles. * server : séparer les commandes enfants du router de ses logs L'enfant envoyait ses commandes d'état sur le même tube que ses logs, si bien que le router devait les extraire du flux de logs grâce à un préfixe de ligne, et toute écriture non terminée devant une commande faisait que le router la manquait. Ceci résout le TODO présent à l'appel de spawn qui demandait de séparer stdout et stderr. L'enfant réserve désormais stdout aux commandes et redirige tout le reste écrit vers stdout vers stderr, avant que quoi que ce soit ne soit écrit. Le router lit les deux tubes, traite les commandes de stdout et transmet stderr comme log, et avertit de toute autre ligne sur le tube de commandes. * server : prise en compte de la revue de ngxson Le server_child unique est désormais créé en premier dans le point d'entrée et son constructeur réserve stdout aux commandes, si bien que le flux est un membre de l'instance au lieu d'un statique, et init() a disparu. L'instance est transmise au server, tandis que le point d'entrée CLI crée la sienne. * Update tools/server/server.cpp --------- Co-authored-by: Xuan-Son Nguyen

Site web : - https://llama.app

Attestations : - https://github.com/ggml-org/llama.cpp/attestations/52670797

macOS/iOS : - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI activé) DISABLED - macOS Intel (x64) - iOS XCFramework

Linux : - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliothèques CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation