预发布 / 持续构建:这是一个实验性构建,并非稳定版本。
ggml-cpu : 在启用 F16C 的 x86 上保留 FP16->FP32 查找表 (#30342) (#30343) * ggml-cpu : 在启用 F16C 的 x86 上保留 FP16->FP32 查找表 (#30342) #30270 将两个标量转换都改为经由 F16C 处理。对于 FP16->FP32,Clang 20.1.8 将该内联函数降级为一条 vpinsrw,合并到量化点积的活跃累加寄存器中, 从而导致循环串行化(估计每次迭代 19 对 4 个周期, 实测 Q8_0/Q4_0 MUL_MAT_ID 内核慢 45-65%)。按原意保留 FP32->FP16 的 F16C,并为 FP16->FP32 保留查找表。 * ggml-cpu : 注释掉而非删除 F16C FP16->FP32 定义(根据评审意见)网站: - https://llama.app
证明(Attestations): - https://github.com/ggml-org/llama.cpp/attestations/56105849
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI enabled) DISABLED(已禁用) - macOS Intel (x64) - iOS XCFramework
Linux： - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 库 - Ubuntu x64 (CUDA 13) - CUDA 13.4 库 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 库 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64（Snapdragon：CPU、Adreno GPU、Hexagon NPU） - 安装指南
Android： - Android arm64 (CPU) - Android arm64（Snapdragon：CPU、Adreno GPU、Hexagon NPU） - 安装指南
Windows 平台： - Windows x64（CPU 版） - Windows arm64（CPU 版） - Windows arm64（OpenCL Adreno 版） - Windows x64（CUDA 12 版） - CUDA 12.4 DLL 文件 - Windows x64（CUDA 13 版） - CUDA 13.4 DLL 文件 - Windows arm64（CUDA 13 版） - CUDA 13.4 DLL 文件 - Windows x64（Vulkan 版） - Windows arm64（Vulkan 版） - Windows x64（OpenVINO 版） - Windows x64（SYCL 版） - Windows x64（ROCm 10.0 版）
openEuler： - 已禁用 - openEuler x86 平台（310p） - openEuler x86 平台（910b，ACL Graph） - openEuler aarch64 平台（310p） - openEuler aarch64 平台（910b，ACL Graph）
UI： - UI