llama.cpp ReleasesActualizado el

[Pre-release / compilación continua] b11703

[Pre-release / compilación continua] hexagon: vectorizar softplus con HVX (#30435) softplus_f32 y tile_softplus_f32 ejecutaban un bucle escalar logf(1.0f + expf(x)). Reemplaza ambos con un asistente compartido…

Pre-release / compilación continua: esta es una compilación experimental, no una versión estable.

hexagon: vectorizar softplus con HVX (#30435) softplus_f32 y tile_softplus_f32 ejecutaban un bucle escalar logf(1.0f + expf(x)). Reemplaza ambos con un asistente compartido hvx_softplus_f32_aa() construido a partir de las primitivas existentes hvx_vec_exp_f32 / hvx_vec_log_f32 del backend, de modo que no se introduce ninguna nueva aproximación numérica. hvx_vec_exp_f32 limita su entrada a (-88, 88) antes de exponenciar, por lo que una composición ingenua de log(1 + exp(x)) saturaría a ~88.72 para x grandes en lugar de devolver x. La selección Q6_V_vmux_QVV mantiene la guarda x > 20 de la referencia escalar (ggml_compute_softplus_f32 en ggml-impl.h), que es lo que hace que la ruta vectorial coincida con el resultado de la CPU. Assisted-by: Claude

Sitio web: - https://llama.app

Atestaciones: - https://github.com/ggml-org/llama.cpp/attestations/56858411

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, con KleidiAI) DESACTIVADO - macOS Intel (x64) - XCFramework de iOS

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliotecas CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - guía de configuración

Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - guía de configuración

Windows: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - CUDA 12.4 DLLs - Windows x64 (CUDA 13) - CUDA 13.4 DLLs - Windows arm64 (CUDA 13) - CUDA 13.4 DLLs - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)

openEuler: - DISABLED - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph)

UI: - UI

Fuente original

llama.cpp Releases

Notas sobre el contenido

La publicación original y los derechos pertenecen a la fuente.

Traducción automática · Consulte el original