llama.cpp ReleasesPublication de la source2026-10-22 05:56 UTC+8

[Pré-publication / build continu] b11801

Pré-publication / build continu : il s'agit d'un build expérimental, pas d'une version stable.

model : ajouter la prise en charge du modèle SenseNova U1 (#28919) * model : ajouter la prise en charge de la compréhension SenseNova U1 Ajouter la prise en charge de la branche de compréhension dense SenseNova U1, y compris le modèle U1.5-8B-MoT. - Ajouter la conversion HF-vers-GGUF pour NEOChatModel, en excluant les tenseurs de génération MoT et en concaténant les poids de normalisation Q/K temporels et spatiaux. - Enregistrer l'architecture GGUF sensenova_u1 et les métadonnées RoPE spatiales personnalisées. - Implémenter la normalisation Q/K temporelle/spatiale avec RoPE à 4 axes. - Conserver la gestion des positions de texte spécifique à U1 dans l'implémentation du modèle. - Ajouter une couverture d'architecture synthétique pour sensenova_u1. Seule la branche de compréhension dense est prise en charge ; les branches de génération sont volontairement rejetées lors de la conversion. * conversion : traiter les configurations SenseNova U1 à un seul expert comme denses * mtmd : ajouter la prise en charge de la vision SenseNova U1 Ajouter la prise en charge de la conversion pour l'encodeur de vision SenseNova U1 et implémenter son graphe de projecteur mtmd CPU. Le graphe applique l'embedding de patchs, GELU, un RoPE 2D par paires adjacentes, le sous-échantillonnage spatial et une projection dense pour les entrées d'images à résolution dynamique. * mtmd : corriger la disposition des jetons de vision SenseNova U1 * model : nettoyer les métadonnées RoPE de SenseNova U1 Remplacer la clé RoPE spatiale codée en dur par des définitions GGUF et LLM_KV partagées utilisées par la conversion, le chargement des modèles et les tests d'architecture. Clarifier pourquoi SenseNova U1 conserve son entrée de position de texte custom : U1 utilise [t, 0, 0, 0], tandis que l'entrée M-RoPE générique utilise [t, t, t, 0]. * mtmd : simplifier l'intégration du projecteur SenseNova U1 Mapper la projection dense SenseNova U1 sur les tenseurs de poids et de biais standard mm.0 et réutiliser les champs de projecteur partagés dans le chargeur et le graphe. Lire les paramètres de vision à partir de la configuration du checkpoint et supprimer les noms de tenseurs et champs de modèle spécifiques à U1 tout en préservant sa projection par pas (strided), son biais et sa disposition de jetons en ordre ligne-major. * mtmd : corriger les positions d'images et l'attention de SenseNova U1 * corriger l'espacement * mtmd : restaurer les chunks d'entrée de test génériques * mtmd : restaurer l'intégration SenseNova U1 après la fusion amont * Update conversion/sensenova_u1.py Co-authored-by: Sigbjørn Skjæret * Update src/models/sensenova-u1.cpp Co-authored-by: Sigbjørn Skjæret * model : supprimer les castings d'activation BF16 de SenseNova U1 Utiliser la gestion de précision standard du backend pour les projections QKV, FFN et de sortie au lieu de caster les entrées selon le type du tenseur de sortie. Assisted-by: Codex * Update src/models/sensenova-u1.cpp Co-authored-by: Sigbjørn Skjæret --------- Co-authored-by: Sigbjørn Skjæret

Site Web : - https://llama.app

Attestations : - https://github.com/ggml-org/llama.cpp/attestations/58406636

macOS/iOS : - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI activé) DÉSACTIVÉ - macOS Intel (x64) - XCFramework iOS

Linux : - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliothèques CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliothèques CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon : CPU, GPU Adreno, NPU Hexagon) - guide d'installation