Pre-release / 持续构建版本:这是实验性构建版本,不是稳定发行版。
ggml-cpu : 将 concat 重写为适用于所有类型的单行内核 (#31179) 每个 dst 行都来自 src0 或 src1,或在 dim 0 的情况下先取 src0 的行再接 src1 的行,因此单个内核即可覆盖所有类型: 密集的源行就是一次 memcpy,包括量化类型,而跨步的源 则逐元素复制,元素大小在编译期已知。 行不再仅按 i2(其值通常为 1)拆分到各线程, 而是以 32 为一组分块复制:对于转置的源,元素在外层循环中遍历, 因此一个 tile 的各行读取相邻地址, 而不是每个元素跳过一个完整的行步长。 为 test_concat 添加转置 b 的测试用例、delta-net conv 输入的布局,以及对应的 perf 测试用例。Website: - https://llama.app
Attestations: - https://github.com/ggml-org/llama.cpp/attestations/60075257
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, 启用 KleidiAI) 已禁用 - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 库 - Ubuntu x64 (CUDA 13) - CUDA 13.4 库 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 库 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon：CPU、Adreno GPU、Hexagon NPU) - 安装指南
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon：CPU、Adreno GPU、Hexagon NPU) - 安装指南
Windows 平台： - Windows x64（CPU）版 - Windows arm64（CPU）版 - Windows arm64（OpenCL Adreno）版 - Windows x64（CUDA 12）版 - CUDA 12.4 DLL 文件 - Windows x64（CUDA 13）版 - CUDA 13.4 DLL 文件 - Windows arm64（CUDA 13）版 - CUDA 13.4 DLL 文件 - Windows x64（Vulkan）版 - Windows arm64（Vulkan）版 - Windows x64（OpenVINO）版 - Windows x64（SYCL）版 - Windows x64（ROCm 10.0）版
openEuler： - DISABLED - openEuler x86 架构（310p） - openEuler x86 架构（910b，ACL Graph） - openEuler aarch64 架构（310p） - openEuler aarch64 架构（910b，ACL Graph）
界面： - 界面