Pre-release / 継続的ビルド: これは実験的なビルドであり、安定版リリースではありません。
cuda, hip: GDN chunked kernel (#29353) * cuda, hip: GDN chunked kernel Ported-from: https://github.com/tetherto/qvac-fabric-llm.cpp/pull/257 Source-commit: 53f0027d8070715fe9ad2131f3201bb0001d4eed Co-authored-by: Aman Gupta * 古いビルドの修正 * レビュー指摘の修正 * cuda: テスト済みのAmpereおよびAda GPUでGDN MMAを有効化 RTX 3090とRTX 4090での正確性およびプリフィルのベンチマーク後、SM86とSM89を有効化。その他の未検証アーキテクチャは既存のフォールバックのまま維持。 Assisted-by: Codex * cuda : GDN MMAでリファクタリングされたswizzle APIを使用 * ggml : GDNは n_tokens > K の場合にのみ最終状態を保証 * cuda : GDN MMAフェーズの簡単なコメントを追加 --------- Co-authored-by: gianni-cor Co-authored-by: Aman Guptaウェブサイト: - https://llama.app
Attestations: - https://github.com/ggml-org/llama.cpp/attestations/56096976
macOS/iOS向け: - macOS Apple Silicon (arm64)向け - macOS Apple Silicon (arm64、KleidiAIが有効) 無効化済み (DISABLED) - macOS Intel (x64)向け - iOS向けXCFramework
Linux: - Ubuntu x64(CPU) - Ubuntu arm64(CPU) - Ubuntu s390x(CPU) - Ubuntu x64(Vulkan) - Ubuntu arm64(Vulkan) - Ubuntu x64(CUDA 12) - CUDA 12.8 ライブラリ - Ubuntu x64(CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu arm64(CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu x64(ROCm 10.0) - Ubuntu x64(OpenVINO) - Ubuntu x64(SYCL FP32) - Ubuntu x64(SYCL FP16) - Linux arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU) - セットアップガイド
Android: - Android arm64(CPU) - Android arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU) - セットアップガイド
Windows 版： - Windows x64 (CPU) 版 - Windows arm64 (CPU) 版 - Windows arm64 (OpenCL Adreno) 版 - Windows x64 (CUDA 12) 版 - CUDA 12.4 DLL ファイル - Windows x64 (CUDA 13) 版 - CUDA 13.4 DLL ファイル - Windows arm64 (CUDA 13) 版 - CUDA 13.4 DLL ファイル - Windows x64 (Vulkan) 版 - Windows arm64 (Vulkan) 版 - Windows x64 (OpenVINO) 版 - Windows x64 (SYCL) 版 - Windows x64 (ROCm 10.0) 版
openEuler: - DISABLED - openEuler x86(310p)向け - openEuler x86(910b、ACL Graph)向け - openEuler aarch64(310p)向け - openEuler aarch64(910b、ACL Graph)向け
UI: - UI