llama.cpp Releases

[Pre-release / compilación continua] b11401

[Pre-release / compilación continua] log, server: colores autosuficientes, separación de los comandos hijos de los registros en modo router (#29895) * log, server: hacer que las líneas hijas del router lleven sus propios…

Pre-release / compilación continua: esta es una compilación experimental, no una versión estable.

log, server: colores autosuficientes, separación de los comandos hijos de los registros en modo router (#29895) * log, server: hacer que las líneas hijas del router lleven sus propios colores El logger escribe el reinicio de color después del salto de línea final, por lo que el reinicio abre la línea siguiente. En la tubería compartida de un hijo del router, cae delante del siguiente comando de estado, que el router entonces pierde, y el salto de línea que lo sortea aparece como una línea de registro vacía en cada actualización de progreso. El reinicio ahora va antes de los saltos de línea finales, de modo que cada línea es autosuficiente y el comando vuelve a su formato simple. El router pasa su configuración de color efectiva a sus hijos, cuya salida termina en su terminal, y omite esa opción al comparar preajustes al recargar. * log: habilitar colores ANSI en la consola de Windows Una consola de Windows solo renderiza secuencias ANSI en modo terminal virtual, que nada activa para el logger, por lo que llama-server imprime códigos de escape sin procesar en la consola de Windows 10 mientras que llama-cli, cuyo código de consola lo habilita, muestra colores. El logger ahora habilita el modo terminal virtual en stdout y stderr cuando activa los colores, y los mantiene desactivados cuando una consola no puede renderizarlos. Las tuberías y los archivos toman las secuencias tal cual. * server: separar los comandos hijos del router de sus registros El hijo enviaba sus comandos de estado por la misma tubería que sus registros, por lo que el router tenía que extraerlos del flujo de registro mediante un prefijo de línea, y cualquier escritura sin terminar delante de un comando hacía que el router lo perdiera. Esto resuelve el TODO en el spawn que pedía separar stdout y stderr. El hijo ahora mantiene stdout para los comandos y redirige todo lo demás escrito a stdout hacia stderr, antes de escribir nada. El router lee ambas tuberías, maneja los comandos de stdout y reenvía stderr como registro, y advierte sobre cualquier otra línea en la tubería de comandos. * server: atender la revisión de ngxson El único server_child ahora se crea primero en el punto de entrada y su constructor mantiene stdout para los comandos, de modo que el flujo es un miembro de la instancia en lugar de un estático, y init() ha desaparecido. La instancia se pasa al server, mientras que el punto de entrada de la CLI crea la suya propia. * Update tools/server/server.cpp --------- Co-authored-by: Xuan-Son Nguyen

Sitio web: - https://llama.app

Atestaciones: - https://github.com/ggml-org/llama.cpp/attestations/52670797

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI habilitado) DESACTIVADO - macOS Intel (x64) - iOS XCFramework

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliotecas CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - guía de configuración

Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - guía de configuración

Windows: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - DLLs de CUDA 12.4 - Windows x64 (CUDA 13) - DLLs de CUDA 13.4 - Windows arm64 (CUDA 13) - DLLs de CUDA 13.4 - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)

openEuler: - DISABLED - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph)

UI: - UI

Fuente original

llama.cpp Releases

Notas sobre el contenido

La publicación original y los derechos pertenecen a la fuente.

Traducción automática · Consulte el original