预发布 / 持续构建版本:这是一个实验性构建版本,不是稳定版本。
hexagon: add support for Q1_0 and Q2_0 (#30122) * hexagon: 添加对 q1_0 量化的支持 * hexagon: 在 2D HMX MUL_MAT 路径中启用 Q1_0 权重 * hex-q1: 清理门控,泛化分块(tiling)并移除循环内的除法 * hex-tiling: 在 developer.md 中记录分块格式并更新 htp-tensor.h * hex-q2: 添加对 Q2_0 的支持 * hex-q2: 移除过时的断言和特殊情况 * hex-mm: 修复 MUL_MAT_NX 关于方形分块的假设,Q1/Q2 具有非方形分块 * hex-q1/2: 次要优化(展开/取消展开/...) * hex-q1: 优化 Q1_0 布局以减少 unpack/vrmpy 开销 * hex-q1/q2_0: 进一步优化 vec_dots --------- Co-authored-by: Max Krasnyansky网站: - https://llama.app
证明: - https://github.com/ggml-org/llama.cpp/attestations/57016509
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64,启用 KleidiAI) 已禁用 - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 库 - Ubuntu x64 (CUDA 13) - CUDA 13.4 库 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 库 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU) - 安装指南
Android: - Android arm64 (CPU) - Android arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU) - 安装指南
Windows 系统: - Windows x64(CPU)版本 - Windows arm64(CPU)版本 - Windows arm64(OpenCL Adreno)版本 - Windows x64(CUDA 12)版本 - CUDA 12.4 DLL 文件 - Windows x64(CUDA 13)版本 - CUDA 13.4 DLL 文件 - Windows arm64(CUDA 13)版本 - CUDA 13.4 DLL 文件 - Windows x64(Vulkan)版本 - Windows arm64(Vulkan)版本 - Windows x64(OpenVINO)版本 - Windows x64(SYCL)版本 - Windows x64(ROCm 10.0)版本
openEuler: - 已禁用 - openEuler x86 平台(310p) - openEuler x86 平台(910b,ACL Graph) - openEuler aarch64 平台(310p) - openEuler aarch64 平台(910b,ACL Graph)
UI: - UI