Pre-release / 継続的ビルド: これは実験的なビルドであり、安定版リリースではありません。
vulkan: mul_mat_id の重複をループではなくプレパスで処理する (#29998) * vulkan: mul_mm_id で id が繰り返される場合、エキスパートの全行を計算する * vulkan: mul_mat_id の重複をループではなくプレパスで処理する 「hoist row ids」最適化を常に有効になるよう拡張し、実行が必要なタイル記述のコンパクトなリストを出力するようにし、必要に応じて複数のタイルを出力するようにします。これにより、ワークグループ数のより厳密な上限を指定して起動でき、テイル部分は単純に早期終了できるようになります。 --------- Co-authored-by: Anjielon <[EMAIL_REDACTED]>ウェブサイト: - https://llama.app
Attestations: - https://github.com/ggml-org/llama.cpp/attestations/54792062
macOS/iOS 版: - macOS Apple Silicon (arm64) 向け - macOS Apple Silicon (arm64、KleidiAI 有効) 無効 - macOS Intel (x64) 向け - iOS 向け XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 ライブラリ - Ubuntu x64 (CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu arm64 (CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU、Adreno GPU、Hexagon NPU) - セットアップガイド
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU、Adreno GPU、Hexagon NPU) - セットアップガイド
Windows: - Windows x64(CPU) - Windows arm64(CPU) - Windows arm64(OpenCL Adreno) - Windows x64(CUDA 12) - CUDA 12.4 DLLファイル - Windows x64(CUDA 13) - CUDA 13.4 DLLファイル - Windows arm64(CUDA 13) - CUDA 13.4 DLLファイル - Windows x64(Vulkan) - Windows arm64(Vulkan) - Windows x64(OpenVINO) - Windows x64(SYCL) - Windows x64(ROCm 10.0)
openEuler: - DISABLED - openEuler x86(310p) - openEuler x86(910b、ACL グラフ) - openEuler aarch64(310p) - openEuler aarch64(910b、ACL グラフ)
UI: - UI