llama.cpp Releases2026-10-14 04:01 UTC+8更新日 2026-10-18 16:28 UTC+8

[プレリリース / 継続的ビルド] b11596

[プレリリース / 継続的ビルド] tests : コンテキスト状態テストを test-llama-context に統合 (#30023) * tests : コンテキスト状態テストを test-llama-context に統合 test-save-load-state、test-recurrent-state-rollback、test-state-restore-fragmented は、3…

プレリリース / 継続的ビルド: これは実験的なビルドであり、安定版リリースではありません。

tests : コンテキスト状態テストを test-llama-context に統合 (#30023) * tests : コンテキスト状態テストを test-llama-context に統合 test-save-load-state、test-recurrent-state-rollback、 test-state-restore-fragmented は、3 つの場所から同じオブジェクトを検査していました。すなわち llama_context の KV キャッシュと再帰状態で、保存、読み込み、コピー、ロールバックを行います。それぞれが独自の main、独自のモデルのループ、独自のトークンと比較ヘルパーのコピーを持ち、 3 つすべてを実行すると同じモデルを何度も読み込んでいました。現在は 1 つのバイナリになり、ケースがテストの単位です: tests/llama-context/test-case.h ケースが実装するインターフェース tests/llama-context/cases-kv.cpp KV キャッシュのケース tests/llama-context/cases-rs.cpp 再帰状態のケース tests/llama-context/test-util.cpp トークン、生成、比較 tests/llama-context/test-runner.cpp ケースのモデル、スレッド上で tests/llama-context/test-log.cpp モデルのログファイル実行はテーブルです。モデルごとに 1 行、ケースごとに 1 列、セルにはそのペアの判定が入ります。モデルは複数のスレッドで読み込まれ (-j、--threads、デフォルトは min(cores, 4))、テーブルは完成した時点で印刷され、失敗したモデルのログはその後に行の順に印刷されます。ケースは判定とその理由を返し、報告するのはランナーだけです - このテストは tests/testing.h を使用せず、130 モデルの実行は判定のマトリクスであり、サブテストのツリーではありません。ステージングはもはや環境を経由しません: llama_model_set_attn_rot が LLAMA_ATTN_ROT_DISABLE 変数を置き換えます。この変数は、あるスレッドで読み込まれたモデルが他のスレッドで読み込み中のモデル向けに変更してしまうことがありました。また、メモリのバッファをコピーするケースのために llama_memory_get_buffers が追加されました。 common_log_set_stdo により、テーブルの構築中はコンソールが静かに保たれます。 ggml_aligned_malloc は、スレッドサニタイザーが有効な場合に posix_memalign で割り当てます。macOS では Mach VM で割り当てます。サニタイザーはこれをインターセプトしないため、ページ範囲が受け渡されるのを決して検知せず、再利用されたメモリへの最初の書き込みをレースとして報告します - このテストではそのうち 30 件があり、そのすべてが誤検知でした。 Assisted-by: pi:llama.cpp/Qwen3.8-Flash-Next * cont : デフォルトでシングルスレッドで実行 * cont : すべてのプラットフォームでテストのビルドを試行 * cont : 余分な部分を削減 * cont : 修正 * cont : 修正の修正

ウェブサイト: - https://llama.app

アテステーション: - https://github.com/ggml-org/llama.cpp/attestations/55569169

macOS/iOS 向け: - macOS Apple Silicon(arm64)向け - macOS Apple Silicon(arm64、KleidiAI 有効) 無効 - macOS Intel(x64)版 - iOS 向け XCFramework

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 ライブラリ - Ubuntu x64 (CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu arm64 (CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU、Adreno GPU、Hexagon NPU) - セットアップガイド