Pre-release / 継続的ビルド: これは実験的なビルドであり、安定版リリースではありません。
cuda: 512を超えるブロック幅向けのFWHTカーネル (#29100) CUDAのFWHTは幅64から512に対応しています。1ワープあたり1行を実行し、レーンごとにN/32個の値を保持するため、それより広いブロックではこのレイアウトで許容される以上のレジスタがレーンごとに必要になります。 fwht_cuda_block は256スレッドのスレッドブロックあたり1行を実行するため、各スレッドはN/256個の値を保持します。ワープ幅未満のステージは依然としてシャッフルを行い、ブロック幅までのステージは共有メモリを経由し、残りはレジスタに保持されます。バタフライ演算と符号の規約はワープカーネルと同じです。 幅64から512はワープカーネルを維持します。1024から8192はF32とF16の両方のソースについて新カーネルを使用します。 ggml_cuda_op_mul_mat_use_fwht(#29096で追加された共有のsupports_op/dispatch述語)は幅をチェックしないため、ここで変更は不要でした。この述語が許容する幅のうち ggml_cuda_op_fwht が扱えないものは、すでに正しくcuBLASパスへフォールスルーします。 #29096のF16コミットを下に置いた現在のmasterにリベースしました。同じF16テンプレートインフラに依存しているためです。そのコミットは問題なく適用され、唯一の競合は test-backend-ops.cpp で、無関係な介在コミット自身のテスト追加がこのブロックの近くに置かれたことによるものでした。 A10 (lambdalabs) でのtest-backend-ops: MUL_MAT 1297/1297、FWHT/Hadamardの全ケースを含む(既存18件、新規F32ワイド4件、新規F16ワイド4件、新規many-rows 2件、上限超えの境界ケース1件が16384に移動)。Website: - https://llama.app
Attestations: - https://github.com/ggml-org/llama.cpp/attestations/53784056
macOS/iOS 向け: - macOS Apple Silicon（arm64）版 - macOS Apple Silicon（arm64、KleidiAI 有効） 無効 - macOS Intel（x64）版 - iOS 向け XCFramework
Linux: - Ubuntu x64(CPU) - Ubuntu arm64(CPU) - Ubuntu s390x(CPU) - Ubuntu x64(Vulkan) - Ubuntu arm64(Vulkan) - Ubuntu x64(CUDA 12) - CUDA 12.8 ライブラリ - Ubuntu x64(CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu arm64(CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu x64(ROCm 10.0) - Ubuntu x64(OpenVINO) - Ubuntu x64(SYCL FP32) - Ubuntu x64(SYCL FP16) - Linux arm64(Snapdragon: CPU、Adreno GPU、Hexagon NPU) - セットアップガイド
Android: - Android arm64(CPU) - Android arm64(Snapdragon: CPU、Adreno GPU、Hexagon NPU) - セットアップガイド
Windows版: - Windows x64(CPU版) - Windows arm64(CPU版) - Windows arm64(OpenCL Adreno版) - Windows x64(CUDA 12版) - CUDA 12.4 DLLファイル - Windows x64(CUDA 13版) - CUDA 13.4 DLLファイル - Windows arm64(CUDA 13版) - CUDA 13.4 DLLファイル - Windows x64(Vulkan版) - Windows arm64(Vulkan版) - Windows x64(OpenVINO版) - Windows x64(SYCL版) - Windows x64(ROCm 10.0版)
openEuler: - DISABLED - openEuler x86（310p）向け - openEuler x86（910b、ACL Graph）向け - openEuler aarch64（310p）向け - openEuler aarch64（910b、ACL Graph）向け
UI: - UI