预发布 / 持续构建版本：这是一个实验性构建版本，不是稳定版本。
graph: 将无缓存注意力的 KV 维度填充到 256 (#30416) 无缓存路径构建一个 [n_tokens, n_tokens] 掩码并传递未填充的 K 和 V， 因此 FLASH_ATTN_EXT 看到的是 K->ne[1] == n_tokens。head size 为 512 的 CUDA 内核 要求 FATTN_KQ_STRIDE 的倍数，因此该算子在大多数长度下会 回退到 CPU，并且 -fa 自动探测（1 个 token） 会为此类模型禁用 flash attention。 像 llama_kv_cache::get_n_kv 一样填充掩码，并将 K 和 V 用零填充 到掩码的 KV 维度。clef 构建自己的因果掩码并以 同样的方式进行填充。Website： - https://llama.app
Attestations： - https://github.com/ggml-org/llama.cpp/attestations/55199687
macOS/iOS 平台： - macOS Apple Silicon（arm64） - macOS Apple Silicon（arm64，已启用 KleidiAI） 已禁用 - macOS Intel（x64） - iOS XCFramework 包
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 库 - Ubuntu x64 (CUDA 13) - CUDA 13.4 库 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 库 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64（骁龙：CPU、Adreno GPU、Hexagon NPU） - 安装指南
Android: - Android arm64 (CPU) - Android arm64（骁龙：CPU、Adreno GPU、Hexagon NPU） - 安装指南
Windows 平台： - Windows x64（CPU）版本 - Windows arm64（CPU）版本 - Windows arm64（OpenCL Adreno）版本 - Windows x64（CUDA 12）版本 - CUDA 12.4 DLL 文件 - Windows x64（CUDA 13）版本 - CUDA 13.4 DLL 文件 - Windows arm64（CUDA 13）版本 - CUDA 13.4 DLL 文件 - Windows x64（Vulkan）版本 - Windows arm64（Vulkan）版本 - Windows x64（OpenVINO）版本 - Windows x64（SYCL）版本 - Windows x64（ROCm 10.0）版本
openEuler： - DISABLED - openEuler x86 架构(310p) - openEuler x86 架构(910b,ACL Graph) - openEuler aarch64 架构(310p) - openEuler aarch64 架构(910b,ACL Graph)
UI： - UI