llama.cpp Releases

[Pre-release / 連続ビルド] b11457

[Pre-release / 連続ビルド] cuda : XIELU に BF16 サポートを追加 (#29955) XIELU CUDA カーネルテンプレートはすでに要素型に対してジェネリックであり、F32/F16 の型アサーションと else-if ディスパッチだけが欠けていました。ランチャーに nv_bfloat16 ブランチを追加し、BF16+XIELU を拒否していた ggml-cuda.cu の一時的な…

Pre-release / 連続ビルド: これは実験的なビルドであり、安定版リリースではありません。

cuda : XIELU に BF16 サポートを追加 (#29955) XIELU CUDA カーネルテンプレートはすでに要素型に対してジェネリックであり、F32/F16 の型アサーションと else-if ディスパッチだけが欠けていました。ランチャーに nv_bfloat16 ブランチを追加し、BF16+XIELU を拒否していた ggml-cuda.cu の一時的な supports_op ゲートを削除します。 test-backend-ops に 2 つの BF16 ケース([10,5,4,3] と [512,16,1,1])を追加。docs/ops/CUDA.csv と docs/ops.md を再生成しました。F32 xIELU の行も no から yes に変わります。つまり、以前の記録が古かったのです。 テスト済み: - Mac CPU: xIELU F32/F16/BF16、6/6 - Mac Metal: 既存の F32/F16、4/4。BF16 はまだ未対応 - RTX 4090 CUDA: xIELU F32/F16/BF16、6/6 - RTX 4090 CUDA BF16 のみ: 2/2 - git diff --check パス

Website: - https://llama.app

Attestations: - https://github.com/ggml-org/llama.cpp/attestations/53344987

macOS/iOS 向け: - macOS Apple Silicon プロセッサー (arm64) - macOS Apple Silicon プロセッサー (arm64、KleidiAI 有効) 無効 - macOS Intel プロセッサー (x64) - iOS 向け XCFramework

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 ライブラリ - Ubuntu x64 (CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu arm64 (CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU、Adreno GPU、Hexagon NPU) - セットアップガイド

Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU、Adreno GPU、Hexagon NPU) - セットアップガイド

Windows バージョン: - Windows x64(CPU ビルド) - Windows arm64(CPU ビルド) - Windows arm64(OpenCL Adreno ビルド) - Windows x64(CUDA 12 ビルド) - CUDA 12.4 DLL ファイル - Windows x64(CUDA 13 ビルド) - CUDA 13.4 DLL ファイル - Windows arm64(CUDA 13 ビルド) - CUDA 13.4 DLL ファイル - Windows x64(Vulkan ビルド) - Windows arm64(Vulkan ビルド) - Windows x64(OpenVINO ビルド) - Windows x64(SYCL ビルド) - Windows x64(ROCm 10.0 ビルド)

openEuler: - DISABLED - openEuler x86 (310p) 向け - openEuler x86 (910b、ACL Graph) 向け - openEuler aarch64 (310p) 向け - openEuler aarch64 (910b、ACL Graph) 向け

UI: - UI

原文の出典

llama.cpp Releases

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください