llama.cpp Releases수정일

[사전 릴리스 / 지속 빌드] b11703

[사전 릴리스 / 지속 빌드] hexagon: HVX로 softplus 벡터화 (#30435) softplus_f32와 tile_softplus_f32는 스칼라 logf(1.0f + expf(x)) 루프를 실행했습니다. 두 함수 모두 백엔드의 기존 hvx_vec_exp_f32 / hvx_vec_log_f32 프리미티브로 구성된 공유 hvx_softplus_f32_aa() 헬퍼로 교체하여…

사전 릴리스 / 지속 빌드: 이것은 실험적 빌드이며 안정 릴리스가 아닙니다.

hexagon: HVX로 softplus 벡터화 (#30435) softplus_f32와 tile_softplus_f32는 스칼라 logf(1.0f + expf(x)) 루프를 실행했습니다. 두 함수 모두 백엔드의 기존 hvx_vec_exp_f32 / hvx_vec_log_f32 프리미티브로 구성된 공유 hvx_softplus_f32_aa() 헬퍼로 교체하여 새로운 수치 근사가 도입되지 않도록 했습니다. hvx_vec_exp_f32는 지수 계산 전에 입력을 (-88, 88)로 클램프하므로, 순진한 log(1 + exp(x)) 조합은 x를 반환하는 대신 큰 x에서 ~88.72로 포화됩니다. Q6_V_vmux_QVV 선택은 스칼라 참조의 x > 20 가드(ggml-impl.h의 ggml_compute_softplus_f32)를 유지하며, 이것이 벡터 경로가 CPU 결과와 일치하게 만드는 요소입니다. Assisted-by: Claude

웹사이트: - https://llama.app

증명(Attestations): - https://github.com/ggml-org/llama.cpp/attestations/56858411

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화) 비활성화됨(DISABLED) - macOS Intel (x64) - iOS XCFramework

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설치 가이드

Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설치 가이드

윈도우(Windows): - 윈도우(Windows) x64 (CPU) - 윈도우(Windows) arm64 (CPU) - 윈도우(Windows) arm64 (OpenCL Adreno) - 윈도우(Windows) x64 (CUDA 12) - CUDA 12.4 DLL - 윈도우(Windows) x64 (CUDA 13) - CUDA 13.4 DLL - 윈도우(Windows) arm64 (CUDA 13) - CUDA 13.4 DLL - 윈도우(Windows) x64 (Vulkan) - 윈도우(Windows) arm64 (Vulkan) - 윈도우(Windows) x64 (OpenVINO) - 윈도우(Windows) x64 (SYCL) - 윈도우(Windows) x64 (ROCm 10.0)

openEuler: - DISABLED - openEuler x86 (310p) 환경 - openEuler x86 (910b, ACL Graph) 환경 - openEuler aarch64 (310p) 환경 - openEuler aarch64 (910b, ACL Graph) 환경

UI: - UI

원문 출처

llama.cpp Releases

내용 안내

원문 발행 및 권리는 출처에 있습니다.

기계 번역 · 원문을 참고하세요