Versión previa al lanzamiento / build continuo: esta es una compilación experimental, no una versión estable.
rpc : convertir GGML_RPC_DEBUG en un nivel de verbosidad y añadir logs (#29544) * rpc : convertir GGML_RPC_DEBUG en un nivel de verbosidad y añadir logs GGML_RPC_DEBUG ahora se interpreta como un número: 0/sin definir desactiva los logs de depuración, 1-3 emiten una salida cada vez más detallada (eventos, traza por comando, detalle de transporte). Los valores no numéricos se reducen a 1. Los bloques duplicados de env/macro en ggml-rpc.cpp y transport.cpp se sustituyen por un log.h compartido, que se convierte en el único punto de paso para todo el registro del backend RPC: LOG_ERROR/LOG_WARN/LOG_INFO para los logs de severidad incondicionales y LOG_DBG/LOG_DBG2/LOG_DBG3 para los regulados por verbosidad. Los archivos de transporte ya no necesitan ggml-impl.h, y el banner del servidor ahora también pasa por el logger de ggml (stderr). Se añaden los logs faltantes tanto en el cliente (handshake, operaciones de buffer, transferencias de tensores, cómputos de grafos, decisiones de caché) como en el servidor (despacho por comando, nodos del grafo), incluido el transporte negociado mediante el nuevo socket_t::transport_name(). Assisted-by: pi:llama.cpp/MiMo-V2.6-Flash-RL * rpc : alinear los niveles de log con la semántica de verbosidad documentada La primera pasada introdujo los niveles de GGML_RPC_DEBUG, pero muchos puntos de llamada no siguieron la semántica documentada y algunos logs eludieron por completo las macros: - Enrutar los puntos de llamada restantes de GGML_LOG_* en bruto a través de las macros LOG_* locales para que log.h siga siendo el único punto de paso del registro de RPC - Emitir las transferencias por tensor y las trazas de manejadores por comando en el nivel 2, y los eventos de ciclo de vida de una sola vez (creación de tipos de backend y de buffer, alocación de buffer, cómputo de grafo, expulsión de la caché de grafos) en el nivel 1 - Eliminar la traza de enqueue duplicada en rpc_dispatcher::send, work() ya registra cada comando despachado junto con su tiempo de ida y vuelta - Promover los eventos de operación degradada a LOG_WARN: fallo de alocación remota, RDMA recurriendo a TCP, desconexión inesperada del par - Registrar la expulsión de la caché de grafos en ambos lados, ya que cliente y servidor deben permanecer sincronizados para que la actualización incremental del grafo sea válida - Distinguir Unknown command (opcode fuera de rango) de Unhandled command (opcode válido sin manejador) - Corregir los especificadores de formato (%zu para size_t, %u para ids de dispositivo, 0x para punteros hexadecimales) y una nueva línea faltante en un log de error - Documentar que las aplicaciones de llama.cpp descartan los registros de depuración de ggml a menos que se eleve el umbral de verbosidad con -lv 5 Assisted-by: pi:llama.cpp/Qwen3.8-Flash-NextSitio web: - https://llama.app
Atestaciones: - https://github.com/ggml-org/llama.cpp/attestations/54812036
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI habilitado) DISABLED - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliotecas CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, GPU Adreno, NPU Hexagon) - guía de configuración
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, GPU Adreno, NPU Hexagon) - guía de configuración
Windows: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - DLLs de CUDA 12.4 - Windows x64 (CUDA 13) - DLLs de CUDA 13.4 - Windows arm64 (CUDA 13) - DLLs de CUDA 13.4 - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)
openEuler: - DISABLED - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph)
UI: - UI