llama.cpp Releases更新日

[プレリリース / 継続的ビルド] b11643

[プレリリース / 継続的ビルド] graph: keep the graph non empty without embeddings (#30522) 埋め込みのみのグラフには logits がなく、embeddings がオフの場合は build_pooling() が早期に return するため、モデルが t_embd を展開しなくなったことでグラフが空になり、その入力が確保されなくなっていました。その場合は t_embd…

プレリリース / 継続的ビルド: これは実験的なビルドであり、安定版リリースではありません。

graph: keep the graph non empty without embeddings (#30522) 埋め込みのみのグラフには logits がなく、embeddings がオフの場合は build_pooling() が 早期に return するため、モデルが t_embd を展開しなくなったことでグラフが空になり、 その入力が確保されなくなっていました。その場合は t_embd を展開します。

Website: - https://llama.app

Attestations: - https://github.com/ggml-org/llama.cpp/attestations/56206571

macOS/iOS 向け: - macOS Apple Silicon (arm64) 向け - macOS Apple Silicon (arm64、KleidiAI を有効化) 無効(オフ) - macOS Intel (x64) 向け - iOS 向け XCFramework

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 ライブラリ - Ubuntu x64 (CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu arm64 (CUDA 13) - CUDA 13.4 ライブラリ - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU、Adreno GPU、Hexagon NPU) - セットアップガイド

Android: - Android arm64(CPU) - Android arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU) - セットアップガイド

Windows: - Windows x64(CPU)用 - Windows arm64(CPU)用 - Windows arm64(OpenCL Adreno)用 - Windows x64(CUDA 12)用 - CUDA 12.4 DLLファイル - Windows x64(CUDA 13)用 - CUDA 13.4 DLLファイル - Windows arm64(CUDA 13)用 - CUDA 13.4 DLLファイル - Windows x64(Vulkan)用 - Windows arm64(Vulkan)用 - Windows x64(OpenVINO)用 - Windows x64(SYCL)用 - Windows x64(ROCm 10.0)用

openEuler: - 無効 - openEuler x86(310p) - openEuler x86(910b、ACLグラフ) - openEuler aarch64(310p) - openEuler aarch64(910b、ACLグラフ)

UI: - UI

原文の出典

llama.cpp Releases

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください