llama.cpp Releases2026-10-16 13:28 UTC+8更新日 2026-10-18 10:23 UTC+8

[プレリリース / 継続的ビルド] b11680

[プレリリース / 継続的ビルド] hexagon: テンソルの再パック処理の作り直し、およびタイル化・フラットな量子化重みと fp 重みのサポート (#30635) * hex-repack: need_repack ハックを削除しルールを整理 -- K-Quants の GET_ROWS テストが壊れるため、次のラウンドで修正予定タイル化された Q5_K での GET_ROWS のサポートを追加 raw な k-quant…

プレリリース / 継続的ビルド: これは実験的なビルドであり、安定版リリースではありません。

hexagon: テンソルの再パック処理の作り直し、およびタイル化・フラットな量子化重みと fp 重みのサポート (#30635) * hex-repack: need_repack ハックを削除しルールを整理 -- K-Quants の GET_ROWS テストが壊れるため、次のラウンドで修正予定タイル化された Q5_K での GET_ROWS のサポートを追加 raw な k-quant テンソルのサポートを追加 * hex-get-rows: raw k-quant ukernel をベクトル化 * hex-binary: dma-loop のスレッド関数をリファクタリング (マクロなどが不要に) * hex-quant: フラットおよびタイル化された dequant ukernel を移動・クリーンアップ * hex-repack: F16/F32/BF16 2D 重みの再パック/タイル化のサポートを追加 * hex-get-rows: 冗長なキャストを削除 * hex-repack: テスト中に漏れていた BF16 の適切なフィルタリング * hex-repack: タイル化ルールを整理 (現時点では MM が壊れています) * hex-repack: タイル化の更新後に mmid を修正 * hex-repack: すべてのフラグ/関数/カーネル/変数で repacked を tiled に改名 * hex-mm: 各種カーネルの valid_rows 計算を修正 * hex-mm: 未使用の hvx_mm_nx_2d_flat を削除 * hex-mm: hvx-tiled vec_dot_f16 をクリーンアップし最適化 * hex-mm: hvx-tiled f16 行列積をさらに改善 * hex-get-rows: 小さい src1 を最適化 * hex-get-rows: get-rows のパフォーマンス劣化を回復するためのさらなる改良 * hex-repack: run.py 経由で GGML_HEXAGON_RT_REPACK をエクスポート * hex-mm-tiled: hmx-tiled-f16 行列積の精度劣化を修正 * hex-mm: tiled_f16 チェックを一般的なフローに統合 * hex-get-rows: supports_op における buffer_is_hexagon と tiling の無意味なチェックを削除 * hex-quant: 新しい dequant ukernel での適切なテール処理 * hex-get-rows: 未使用コードの削除とサポートチェックのクリーンアップ * hex-mm: ne1 のパディング/タイル化チェックをクリーンアップ * hex-mm: タイル化テンソルの fusion チェックをクリーンアップ * hex-repack: 重複を減らすための小さな can_repack ヘルパーを追加 * hex-repack: ホストバッファを再パックしないように変更 * hex-repack: 再パック関数を別の .h と .cpp に分離 * hex-tensor: タイル化/パディングされたサイズ用のテンソルインターフェースをクリーンアップ * hex-repack: k-quant タイル化のコメントを更新し #defines をクリーンアップ * hex-dcache: l2/dcache のダーティトラッキングとフラッシュを分離 * hex-tensor: ドキュメントを更新し #defs の重複を削除 * hex-tensor: 未使用/不正確な get_data インターフェースを削除 * hex-get-rows: vtcm レイアウト構築をクリーンアップ * tests: 巨大 MM テストを無効化 * hex-dcache: 欠落していたヘッダーを追加

ウェブサイト: - https://llama.app

Attestations(証明): - https://github.com/ggml-org/llama.cpp/attestations/56541220

macOSおよびiOS: - macOS Apple Silicon (arm64)向け - macOS Apple Silicon (arm64、KleidiAI有効)向けオフ(DISABLED) - macOS Intel (x64)向け - iOS向けXCFramework

Linux: - Ubuntu x64(CPU) - Ubuntu arm64(CPU) - Ubuntu s390x(CPU) - Ubuntu x64(Vulkan) - Ubuntu arm64(Vulkan) - Ubuntu x64(CUDA 12) - CUDA 12.8 ライブラリ - Ubuntu x64(CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu arm64(CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu x64(ROCm 10.0) - Ubuntu x64(OpenVINO) - Ubuntu x64(SYCL FP32) - Ubuntu x64(SYCL FP16) - Linux arm64(Snapdragon: CPU、Adreno GPU、Hexagon NPU) - セットアップガイド