llama.cpp Releases수정일

[Pre-release / continuous build] b11505

[사전 릴리스 / 연속 빌드] vulkan : +inf/NaN 입력 및 음수 값에서 k = 1에 대한 TOP_K 수정 (#30107) topk_nary_search.comp의 버킷 탐색은 [0, 0xFF800000) 범위에서 시작했는데, 이 범위는 +inf의 ordered-uint 매핑 바로 아래에서 끝나기 때문에 +inf와 NaN은 절대 계산되지 않았습니다. k개 미만의 셀 수 있는 값을…

Pre-release / continuous build: 실험적인 빌드이며 안정 릴리스가 아닙니다.

vulkan : +inf/NaN 입력 및 음수 값에서 k = 1에 대한 TOP_K 수정 (#30107) topk_nary_search.comp의 버킷 탐색은 [0, 0xFF800000) 범위에서 시작했는데, 이 범위는 +inf의 ordered-uint 매핑 바로 아래에서 끝나기 때문에 +inf와 NaN은 절대 계산되지 않았습니다. k개 미만의 셀 수 있는 값을 가진 워크그룹 블록은 ballot을 비워 두었고 셰이더는 초기화되지 않은 shared state를 읽었습니다(NVIDIA에서 hang/device lost, AMD에서 잘못된 인덱스), 그리고 블록 내 몇 개의 +inf는 계산되지 않은 채 선택되어 실제 상위 값들이 누락되었습니다. 입력에서 NaN을 -inf로 매핑하고, 모든 값이 계산되도록 [0, 0xFFFFFFFF)에서 시작하며, 0으로 wrap하는 대신 최상위 버킷의 끝(2^32)을 clamp합니다. k = 1 경로는 float 비트를 부호 있는 정수로 비교했는데, 이는 음수 값을 역순으로 정렬합니다; 대신 float을 비교하도록 합니다. test-backend-ops에 test_top_k_inf를 추가합니다: 음수 값, k개 미만의 +inf와 다수의 -inf, k = 1, 10, 40에 대해 테스트합니다. Assisted-by: Claude Opus 5.5

웹사이트: - https://llama.app

출처 확인(Attestations): - https://github.com/ggml-org/llama.cpp/attestations/53971594

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화) DISABLED - macOS Intel (x64) - iOS XCFramework

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드

Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드

윈도우(Windows): - 윈도우 x64 (CPU) - 윈도우 arm64 (CPU) - 윈도우 arm64 (OpenCL Adreno) - 윈도우 x64 (CUDA 12) - CUDA 12.4 DLL들 - 윈도우 x64 (CUDA 13) - CUDA 13.4 DLL들 - 윈도우 arm64 (CUDA 13) - CUDA 13.4 DLL들 - 윈도우 x64 (Vulkan) - 윈도우 arm64 (Vulkan) - 윈도우 x64 (OpenVINO) - 윈도우 x64 (SYCL) - 윈도우 x64 (ROCm 10.0)

openEuler: - DISABLED - openEuler x86 (310p) 환경 - openEuler x86 (910b, ACL Graph) 환경 - openEuler aarch64 (310p) 환경 - openEuler aarch64 (910b, ACL Graph) 환경

UI: - UI

원문 출처

llama.cpp Releases

내용 안내

원문 발행 및 권리는 출처에 있습니다.

기계 번역 · 원문을 참고하세요