Pre-release / 継続的ビルド: これは実験的なビルドであり、安定版リリースではありません。
model: SenseNova U1 モデルのサポートを追加 (#28919) * model : SenseNova U1 の理解機能サポートを追加 U1.5-8B-MoT モデルを含む、dense な SenseNova U1 理解ブランチの サポートを追加します。 - MoT 生成テンソルを除外し、時間および空間の Q/K 正規化ウェイトを 連結する、NEOChatModel の HF から GGUF への変換を追加。 - sensenova_u1 GGUF アーキテクチャとカスタム空間 RoPE メタデータを登録。 - 4 軸 RoPE による時間/空間 Q/K 正規化を実装。 - U1 固有のテキスト位置処理をモデル実装内に維持。 - sensenova_u1 の合成アーキテクチャカバレッジを追加。 サポートされるのは dense な理解ブランチのみで、生成ブランチは 変換時に意図的に拒否されます。 * conversion : エキスパート 1 つの SenseNova U1 設定を dense として扱う * mtmd : SenseNova U1 のビジョンサポートを追加 SenseNova U1 ビジョンエンコーダーの変換サポートを追加し、その CPU mtmd プロジェクターグラフを実装します。 このグラフは、動的解像度の画像入力に対して、パッチ埋め込み、GELU、 隣接ペア 2D RoPE、空間ダウンサンプリング、dense 射影を適用します。 * mtmd : SenseNova U1 のビジョントークンレイアウトを修正 * model : SenseNova U1 の RoPE メタデータを整理 変換、モデル読み込み、アーキテクチャテストで使用される共有の GGUF および LLM_KV 定義に置き換え、ハードコードされた空間 RoPE キーを廃止します。 SenseNova U1 がカスタムのテキスト位置入力を維持する理由を明確化します: U1 は [t, 0, 0, 0] を使用するのに対し、汎用の M-RoPE 入力は [t, t, t, 0] を使用します。 * mtmd : SenseNova U1 プロジェクターの統合を簡素化 SenseNova U1 の dense 射影を標準の mm.0 ウェイトおよびバイアステンソルに マッピングし、ローダーとグラフ内の共有プロジェクターフィールドを再利用します。 ビジョンパラメーターをチェックポイント設定から読み取り、U1 固有の テンソル名とモデルフィールドを削除するとともに、ストライド付き射影、 バイアス、行優先のトークンレイアウトを維持します。 * mtmd : SenseNova U1 の画像位置とアテンションを修正 * スペースを修正 * mtmd : 汎用テスト入力チャンクを復元 * mtmd : 復元 上流マージ後の SenseNova U1 統合 * conversion/sensenova_u1.py を更新 Co-authored-by: Sigbjørn Skjæret * src/models/sensenova-u1.cpp を更新 Co-authored-by: Sigbjørn Skjæret * model : SenseNova U1 の BF16 アクティベーションキャストを削除 出力テンソル型に基づいて入力をキャストする代わりに、QKV、FFN、 出力射影には標準のバックエンド精度処理を使用します。 Assisted-by: Codex * src/models/sensenova-u1.cpp を更新 Co-authored-by: Sigbjørn Skjæret --------- Co-authored-by: Sigbjørn Skjæretウェブサイト: - https://llama.app
Attestations(証明): - https://github.com/ggml-org/llama.cpp/attestations/58406636
macOS/iOS 向け: - macOS Apple Silicon (arm64) 向け - macOS Apple Silicon (arm64、KleidiAI を有効化) DISABLED（無効に設定） - macOS Intel (x64) 向け - iOS 向け XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 ライブラリ - Ubuntu x64 (CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu arm64 (CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU、Adreno GPU、Hexagon NPU) - セットアップガイド
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU、Adreno GPU、Hexagon NPU) - セットアップガイド
Windows版: - Windows x64(CPU)版 - Windows arm64(CPU)版 - Windows arm64(OpenCL Adreno)版 - Windows x64(CUDA 12)版 - CUDA 12.4 DLLセット - Windows x64(CUDA 13)版 - CUDA 13.4 DLLセット - Windows arm64(CUDA 13)版 - CUDA 13.4 DLLセット - Windows x64(Vulkan)版 - Windows arm64(Vulkan)版 - Windows x64(OpenVINO)版 - Windows x64(SYCL)版 - Windows x64(ROCm 10.0)版
openEuler: - DISABLED - openEuler x86(310p)向け - openEuler x86(910b、ACL Graph)向け - openEuler aarch64(310p)向け - openEuler aarch64(910b、ACL Graph)向け
UI: - UI