llama.cpp Releases

[사전 릴리스 / 지속 빌드] b11411

[사전 릴리스 / 지속 빌드] kv-cache: 정확한 rotation 메타데이터를 저장하여 일치하지 않는 KV cache rotation 복원 수정 (#28498) * kv-cache: 정확한 KV rotation 메타데이터 저장, 일치하지 않는 rotation 복원 거부 * tests : 상태 rotation 테스트를 test-save-load-state로 이동 이 테스트는 이제…

사전 릴리스 / 지속 빌드: 이것은 실험적 빌드이며 안정 릴리스가 아닙니다.

kv-cache: 정확한 rotation 메타데이터를 저장하여 일치하지 않는 KV cache rotation 복원 수정 (#28498) * kv-cache: 정확한 KV rotation 메타데이터 저장, 일치하지 않는 rotation 복원 거부 * tests : 상태 rotation 테스트를 test-save-load-state로 이동 이 테스트는 이제 save/load 테스트 매트릭스의 일부이며, 나머지 스위트와 마찬가지로 테스트 대상 모든 모델에 대해 실행됩니다. 모델이 지원하는 KV cache 타입 조합을 검사하고 attention rotation을 사용하지 않는 모델은 당연히 통과로 처리합니다 Assisted-by: pi:llama.cpp/Qwen3.8-27B * cont : 지원되지 않는 KV cache 건너뛰기 --------- Co-authored-by: Georgi Gerganov

웹사이트: - https://llama.app

Attestations: - https://github.com/ggml-org/llama.cpp/attestations/52781521

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화) 비활성화됨 - macOS Intel (x64) - iOS XCFramework

리눅스: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드

안드로이드: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드

윈도우(Windows): - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - CUDA 12.4 DLL들 - Windows x64 (CUDA 13) - CUDA 13.4 DLL들 - Windows arm64 (CUDA 13) - CUDA 13.4 DLL들 - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)

openEuler: - DISABLED - openEuler x86 (310p)용 - openEuler x86 (910b, ACL Graph)용 - openEuler aarch64 (310p)용 - openEuler aarch64 (910b, ACL Graph)용

UI: - UI

원문 출처

llama.cpp Releases

내용 안내

원문 발행 및 권리는 출처에 있습니다.

기계 번역 · 원문을 참고하세요