llama.cpp Releases更新日

[プレリリース / 継続的ビルド] b11558

[プレリリース / 継続的ビルド] opencl: q4_k dense bin カーネル、q4_0 bcast、および rms_norm のイメージ上限を修正 (#30310) * opencl: Q4_K の重みイメージがデバイスの上限を超えた場合のフォールバック Co-authored-by: Hongqiang Wang * opencl: rms_norm で不完全なサブグループを回避 * opencl: dense bin…

プレリリース / 継続的ビルド: これは実験的なビルドであり、安定版リリースではありません。

opencl: q4_k dense bin カーネル、q4_0 bcast、および rms_norm のイメージ上限を修正 (#30310) * opencl: Q4_K の重みイメージがデバイスの上限を超えた場合のフォールバック Co-authored-by: Hongqiang Wang * opencl: rms_norm で不完全なサブグループを回避 * opencl: dense bin カーネルの条件を改善し、q4_0 の bcast を修正 Co-authored-by: Hongqiang Wang --------- Co-authored-by: Hongqiang Wang

Website: - https://llama.app

Attestations: - https://github.com/ggml-org/llama.cpp/attestations/54829575

macOSおよびiOS: - macOS Apple Silicon (arm64)向け - macOS Apple Silicon (arm64、KleidiAIを有効化) 無効 - macOS Intel (x64)向け - iOS向けXCFramework

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 ライブラリ - Ubuntu x64 (CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu arm64 (CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU、Adreno GPU、Hexagon NPU) - セットアップガイド

Android: - Android arm64(CPU) - Android arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU) - セットアップガイド

Windows: - Windows x64(CPU)版 - Windows arm64(CPU)版 - Windows arm64(OpenCL Adreno)版 - Windows x64(CUDA 12)版 - CUDA 12.4 DLLファイル - Windows x64(CUDA 13)版 - CUDA 13.4 DLLファイル - Windows arm64(CUDA 13)版 - CUDA 13.4 DLLファイル - Windows x64(Vulkan)版 - Windows arm64(Vulkan)版 - Windows x64(OpenVINO)版 - Windows x64(SYCL)版 - Windows x64(ROCm 10.0)版

openEuler: - DISABLED - openEuler x86(310p 向け) - openEuler x86(910b 向け、ACL Graph) - openEuler aarch64(310p 向け) - openEuler aarch64(910b 向け、ACL Graph)

UI: - UI

原文の出典

llama.cpp Releases

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください