llama.cpp Releases

[Pre-release / build continuo] b11528

[Pre-release / build continuo] meta : manejo de vistas de host (#30217) * meta : manejo de vistas de tensores asignados en el host Una vista comparte la memoria de su view_src, por lo que ggml-alloc nunca asigna una…

Pre-release / build continuo: esta es una compilación experimental, no una versión estable.

meta : manejo de vistas de host (#30217) * meta : manejo de vistas de tensores asignados en el host Una vista comparte la memoria de su view_src, por lo que ggml-alloc nunca asigna una vista en el búfer del split en el que cae - el planificador copia el origen en el split y las ops que usan la vista leen esa copia. El nodo de vista en sí es un noop y no necesita un split propio, pero el backend meta hacía assert cuando uno quedaba dentro de un split meta: - ggml_backend_meta_get_split_state() desreferenciaba tensor->buffer->context - la reconstrucción del grafo mapeaba cada nodo con ggml_backend_meta_buffer_simple_tensor() Aceptar dichos nodos cuando son vistas de tensores de host, lo que también generaliza el anterior workaround de s_copy_main. Esto corrige el assert provocado por las vistas de la caché KV al usar --split-mode tensor con offload parcial. Assisted-by: pi:llama.cpp/Qwen3.8-Flash-Next * archs : reactivar sm tensor para K2 Horizon * cont : añadir TODO y referencia

Sitio web: - https://llama.app

Atestaciones: - https://github.com/ggml-org/llama.cpp/attestations/54357448

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, con KleidiAI) DISABLED - macOS Intel (x64) - iOS XCFramework

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliotecas CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - guía de configuración

Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - guía de configuración

Windows: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - DLLs de CUDA 12.4 - Windows x64 (CUDA 13) - DLLs de CUDA 13.4 - Windows arm64 (CUDA 13) - DLLs de CUDA 13.4 - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)

openEuler: - DISABLED - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph)

UI: - UI

Fuente original

llama.cpp Releases

Notas sobre el contenido

La publicación original y los derechos pertenecen a la fuente.

Traducción automática · Consulte el original