llama.cpp ReleasesPublicación de la fuente2026-10-22 05:56 UTC+8

[Pre-lanzamiento / compilación continua] b11801

Pre-lanzamiento / compilación continua: esta es una compilación experimental, no una versión estable.

model: Añadir compatibilidad con el modelo SenseNova U1 (#28919) * model : añadir compatibilidad de comprensión con SenseNova U1 Añade compatibilidad con la rama de comprensión densa SenseNova U1, incluido el modelo U1.5-8B-MoT. - Añadir conversión de HF a GGUF para NEOChatModel, excluyendo los tensores de generación MoT y concatenando los pesos de normalización temporal y espacial de Q/K. - Registrar la arquitectura GGUF sensenova_u1 y los metadatos personalizados de RoPE espacial. - Implementar la normalización temporal/espacial de Q/K con RoPE de 4 ejes. - Mantener el manejo de posiciones de texto específico de U1 en la implementación del modelo. - Añadir cobertura sintética de arquitectura para sensenova_u1. Solo se admite la rama de comprensión densa; las ramas de generación se rechazan intencionadamente durante la conversión. * conversion : tratar las configuraciones de SenseNova U1 con un solo experto como densas * mtmd : añadir compatibilidad de visión con SenseNova U1 Añade compatibilidad de conversión para el codificador de visión de SenseNova U1 e implementa su grafo de proyector mtmd en CPU. El grafo aplica incrustación de parches, GELU, RoPE 2D de pares adyacentes, submuestreo espacial y proyección densa para entradas de imagen de resolución dinámica. * mtmd : corregir la disposición de los tokens de visión de SenseNova U1 * model : limpiar los metadatos de RoPE de SenseNova U1 Sustituir la clave de RoPE espacial codificada de forma fija por definiciones compartidas de GGUF y LLM_KV usadas por la conversión, la carga del modelo y las pruebas de arquitectura. Aclarar por qué SenseNova U1 conserva su entrada de posición de texto personalizada: U1 usa [t, 0, 0, 0], mientras que la entrada genérica de M-RoPE usa [t, t, t, 0]. * mtmd : simplificar la integración del proyector de SenseNova U1 Mapear la proyección densa de SenseNova U1 a los tensores estándar de peso y bias mm.0 y reutilizar los campos compartidos del proyector en el cargador y el grafo. Leer los parámetros de visión desde la configuración del checkpoint y eliminar los nombres de tensor específicos de U1 y los campos del modelo, preservando su proyección con paso, bias y disposición de tokens por filas. * mtmd : corregir las posiciones de imagen y la atención de SenseNova U1 * corregir espaciado * mtmd : restaurar los fragmentos de entrada genéricos de prueba * mtmd : restaurar la integración de SenseNova U1 tras la fusión upstream * Actualizar conversion/sensenova_u1.py Co-authored-by: Sigbjørn Skjæret * Actualizar src/models/sensenova-u1.cpp Co-authored-by: Sigbjørn Skjæret * model : eliminar los casts de activación BF16 de SenseNova U1 Usar el manejo de precisión estándar del backend para las proyecciones QKV, FFN y de salida en lugar de convertir las entradas según el tipo del tensor de salida. Assisted-by: Codex * Actualizar src/models/sensenova-u1.cpp Co-authored-by: Sigbjørn Skjæret --------- Co-authored-by: Sigbjørn Skjæret

Sitio web: - https://llama.app

Atestaciones: - https://github.com/ggml-org/llama.cpp/attestations/58406636

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI habilitado) DESACTIVADO - macOS Intel (x64) - XCFramework de iOS

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Librerías CUDA 12.8 - Ubuntu x64 (CUDA 13) - Librerías CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Librerías CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, GPU Adreno, NPU Hexagon) - guía de configuración