llama.cpp Releases

[Versión previa al lanzamiento / build continuo] b11516

[Versión previa al lanzamiento / build continuo] hexagon: corregir desbordamiento del anillo DMA de IM2COL patch-embed (#30189) * hexagon: corregir desbordamiento del anillo DMA de IM2COL patch-embed El kernel DMA de…

Versión previa al lanzamiento / build continuo: esta es una versión experimental, no un lanzamiento estable.

hexagon: corregir desbordamiento del anillo DMA de IM2COL patch-embed (#30189) * hexagon: corregir desbordamiento del anillo DMA de IM2COL patch-embed El kernel DMA de IM2COL con mosaico exacto (stride == kernel, sin pad/dilatación) emite IC*KH descriptores DDR->VTCM por fila de salida sin comprobar el valor de retorno de dma_queue_push(), y luego hace pop IC*KH veces. El anillo DMA por hilo contiene 256 entradas y un push en un anillo lleno devuelve false y descarta la transferencia, por lo que para IC*KH > 255 las filas restantes del búfer de preparación en VTCM nunca se escribieron y datos obsoletos (a menudo NaN/inf) se filtraron a la salida. La solución es retirar el descriptor más antiguo cuando el anillo esté lleno, tal como ya hace el kernel bloqueado en el mismo archivo, y esperar con dma_queue_flush(). Para las pruebas, se añadieron casos de prueba de mosaico exacto con IC*KH > 256 (2D 1x1, patch embed 2D 2x2 y 1D, destino F16 y F32), que fallan en HTP sin esta corrección. * Aplicar sugerencia de @max-krasnyansky --------- Co-authored-by: Max Krasnyansky

Sitio web: - https://llama.app

Atestaciones: - https://github.com/ggml-org/llama.cpp/attestations/54222989

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI habilitado) DISABLED - macOS Intel (x64) - iOS XCFramework

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliotecas CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, GPU Adreno, NPU Hexagon) - guía de configuración

Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, GPU Adreno, NPU Hexagon) - guía de configuración

Windows: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - DLLs de CUDA 12.4 - Windows x64 (CUDA 13) - DLLs de CUDA 13.4 - Windows arm64 (CUDA 13) - DLLs de CUDA 13.4 - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)

openEuler: - DISABLED - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph)

UI: - UI

Fuente original

llama.cpp Releases

Notas sobre el contenido

La publicación original y los derechos pertenecen a la fuente.

Traducción automática · Consulte el original