Pre-release / compilación continua: esta es una compilación experimental, no una versión estable.
hexagon: optimización de CPY/CONCAT — ronda 3, edición de filas cortas (#30341) * hexagon: mover el CPY de conversión en bloques de filas por descriptor DMA para que las filas cortas no queden limitadas por la latencia del DMA * hex-cpy: limpieza del manejo del cursor cpy * hex-cpy-concat: introducción de un helper de gather-row dma/hvx con hilos Co-authored-by: Ruslan Karymov <67752306+karusrus@users.noreply.github.com> * hex-cpy: eliminar rechazos sobrantes para buffers extendidos * hex-cpy: relajar la compuerta del fast-path * hex-cpy: eliminar divisiones escalares y acceso a vtcm y usar gather_sync explícito * hex-cpy: añadir soporte adecuado para división de trabajo mdev en el fastpath * hex-cpy: optimizar tareas dense gather-row * hex-cpy: desenrollar los bucles gather-rows * hex-cpy: añadir fastpath para f16 * hex-cpy-concat: soporte para colapsar dimensiones 3/4D * hex-cpy: soporte de double-buffer * hex-cpy: extraer gather-rows como una operación más independiente * hex-cpy-concat: deduplicar kernel-params * hex-cpy-concat: reducir nr para que quepa en lugar de fallar de forma rotunda * hex-gather: reemplazar la división por una máscara * hex-gather-rows: limpiar el pipeline dma y eliminar los stalls * hex-gather: especializar las funciones compute * hex-gather: reducir los reg.spills escalares y las llamadas a funciones * hex-gather: no recalcular rows-per-thread en el npu * hex-build: añadir soporte para compilar/instalar solo hexagon * hex-cpy-concat: eliminar la barrera redundante en concat y mover la barrera cpy bajo fence * hex-gather: anotaciones para dma-out * hex-mdev: hacer atómico todo el estado de sincronización clave de vtcm_acquire (corrige cuelgues aleatorios en configuraciones mdev) --------- Co-authored-by: Yiwei Shao Co-authored-by: Ruslan Karymov <67752306+karusrus@users.noreply.github.com>Sitio web: - https://llama.app
Atestaciones: - https://github.com/ggml-org/llama.cpp/attestations/55095068
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI habilitado) DISABLED - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliotecas de CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliotecas de CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliotecas de CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, GPU Adreno, NPU Hexagon) - guía de configuración
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, GPU Adreno, NPU Hexagon) - guía de configuración
Windows: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - CUDA 12.4 DLLs - Windows x64 (CUDA 13) - CUDA 13.4 DLLs - Windows arm64 (CUDA 13) - CUDA 13.4 DLLs - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)
openEuler: - DISABLED - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph)
UI: - UI