Pre-release / 継続的ビルド: これは実験的なビルドであり、安定版リリースではありません。
imatrix: 新形式(GGUF)の imatrix 向けに活性化ベースの統計を計算 (#14891) * 活性化を使って統計を計算 * 計算モードを決定 * 活性化のエントロピーを計算 * 活性化に基づくコサイン類似度を計算 * l2 ノルムを計算 * compute_layer_statistics() 関数を追加 * 集計統計レポートのレイアウトを更新 * calc_mode = 1 のときの l2 ノルムの出力を修正 * 変数名をリファクタリング * 集計された(レイヤーごとの)l2 ノルムを計算 * レイヤーごとの活性化二乗和の集計を更新 * ZD Score を両側検定に変更 * レポートのレイアウトを更新 * 慣例に合わせて条件分岐を反転 * レポートの見出しを改名 * --activation-statistics パラメータを追加 * Euclidean–Cosine Score (ECS) を追加 * デフォルトで imatrix サイズが倍増するのを避ける --activation-statistics のロジックを追加 * imatrix タイプに応じた統計出力のソートを更新 * 外部の NextN ドラフトファイルを処理 (-md / --model-draft) * 新しい llama_batch_ext を使うようリファクタリング Co-authored-by: compilade Co-authored-by: Sigbjørn Skjæretウェブサイト: - https://llama.app
Attestations: - https://github.com/ggml-org/llama.cpp/attestations/52565482
macOS/iOS 向け: - macOS Apple Silicon(arm64)向け - macOS Apple Silicon(arm64、KleidiAI を有効にした場合) 無効(ディセーブル) - macOS Intel(x64)向け - iOS XCFramework 向け
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 ライブラリ - Ubuntu x64 (CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu arm64 (CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU、Adreno GPU、Hexagon NPU) - セットアップガイド
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU、Adreno GPU、Hexagon NPU) - セットアップガイド
Windows向け: - Windows x64(CPU)向け - Windows arm64(CPU)向け - Windows arm64(OpenCL Adreno)向け - Windows x64(CUDA 12)向け - CUDA 12.4向けDLL群 - Windows x64(CUDA 13)向け - CUDA 13.4向けDLL群 - Windows arm64(CUDA 13)向け - CUDA 13.4向けDLL群 - Windows x64(Vulkan)向け - Windows x64(OpenVINO)向け - Windows x64(SYCL)向け - Windows x64(ROCm 10.0)向け
openEuler: - DISABLED - openEuler x86 (310p) 向け - openEuler x86 (910b、ACL Graph) 向け - openEuler aarch64 (310p) 向け - openEuler aarch64 (910b、ACL Graph) 向け
UI: - UI