Pre-release / build continuo: esta es una compilación experimental, no una versión estable.
hexagon: añadir soporte para Q1_0 y Q2_0 (#30122) * hexagon: añadir soporte para la cuantización q1_0 * hexagon: habilitar pesos Q1_0 en la ruta 2D HMX MUL_MAT * hex-q1: limpieza de gates, generalizar tiling y eliminar divisiones dentro del bucle * hex-tiling: documentar formatos tiled en developer.md y actualizar htp-tensor.h * hex-q2: añadir soporte para Q2_0 * hex-q2: eliminar asserts obsoletos y casos especiales * hex-mm: corregir la suposición de MUL_MAT_NX sobre tiling cuadrado, Q1/Q2 tienen tiles no cuadrados * hex-q1/2: optimizaciones menores (unrolls/un-unrolls/...) * hex-q1: optimizar el layout de Q1_0 para reducir la sobrecarga de unpack/vrmpy * hex-q1/q2_0: optimizar aún más vec_dots --------- Co-authored-by: Max KrasnyanskySitio web: - https://llama.app
Atestaciones: - https://github.com/ggml-org/llama.cpp/attestations/57016509
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI habilitado) DISABLED - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Librerías CUDA 12.8 - Ubuntu x64 (CUDA 13) - Librerías CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Librerías CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, GPU Adreno, NPU Hexagon) - guía de configuración
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, GPU Adreno, NPU Hexagon) - guía de configuración
Windows: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - CUDA 12.4 DLLs - Windows x64 (CUDA 13) - CUDA 13.4 DLLs - Windows arm64 (CUDA 13) - CUDA 13.4 DLLs - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)
openEuler: - DESACTIVADO - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph)
UI: - UI