llama.cpp Releases2026-10-14 04:01 UTC+8Actualizado el 2026-10-16 14:51 UTC+8

[Pre-lanzamiento / compilación continua] b11596

[Pre-lanzamiento / compilación continua] tests : consolidar las pruebas de estado de contexto en test-llama-context (#30023) * tests : consolidar las pruebas de estado de contexto en test-llama-context…

Pre-lanzamiento / compilación continua: esta es una compilación experimental, no una versión estable.

tests : consolidar las pruebas de estado de contexto en test-llama-context (#30023) * tests : consolidar las pruebas de estado de contexto en test-llama-context test-save-load-state, test-recurrent-state-rollback y test-state-restore-fragmented comprueban el mismo objeto desde tres lugares: la caché KV y el estado recurrente de un llama_context, guardado, cargado, copiado, revertido. Cada uno tenía su propio main, su propio bucle sobre los modelos, su propia copia de los auxiliares de tokens y de comparación, y una ejecución de los tres cargaba los mismos modelos varias veces. Ahora son un solo binario, y el caso es la unidad de la prueba: tests/llama-context/test-case.h la interfaz que implementa un caso tests/llama-context/cases-kv.cpp los casos de la caché KV tests/llama-context/cases-rs.cpp los casos del estado recurrente tests/llama-context/test-util.cpp tokens, generación, comparación tests/llama-context/test-runner.cpp los modelos de un caso, en hilos tests/llama-context/test-log.cpp el archivo de registro de un modelo Una ejecución es una tabla: una fila por modelo, una columna por caso, una celda guarda el veredicto de ese par. Los modelos se cargan en varios hilos (-j, --threads, min(cores, 4) por defecto), la tabla se imprime cuando está completa y el registro de un modelo que falló se imprime después, en el orden de las filas. Un caso devuelve un veredicto y su motivo, y el runner es el único que reporta - la prueba no usa tests/testing.h, una ejecución sobre 130 modelos es una matriz de veredictos y no un árbol de subpruebas. El staging ya no viaja por el entorno: llama_model_set_attn_rot reemplaza a la variable LLAMA_ATTN_ROT_DISABLE, que un modelo cargado en un hilo cambiaba para los modelos que los demás hilos estaban cargando, y se añade llama_memory_get_buffers para los casos que copian los buffers de una memoria. common_log_set_stdo mantiene la consola en silencio mientras se construye la tabla. ggml_aligned_malloc asigna con posix_memalign cuando el sanitizador de hilos está activado. En macOS asigna con la VM Mach de, que el sanitizador no intercepta, por lo que nunca ve que un rango de páginas cambia de manos y reporta la primera escritura en memoria reciclada como una carrera - 30 de ellas en esta prueba, y todas falsas. Asistido-por: pi:llama.cpp/Qwen3.8-Flash-Next * cont : ejecutar de forma monohilo por defecto * cont : intentar compilar las pruebas en todas las plataformas * cont : recortar algo de grasa * cont : corregir * cont : corregir la corrección

Sitio web: - https://llama.app

Atestaciones: - https://github.com/ggml-org/llama.cpp/attestations/55569169

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI habilitado) DISABLED - macOS Intel (x64) - iOS XCFramework

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliotecas CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - guía de configuración