사전 릴리스 / 지속 빌드: 이것은 실험적인 빌드이며 안정 릴리스가 아닙니다.
vulkan : AMD에서 strided f16 KV를 한 번 복사하여 읽기가 메모리 채널에 분산되도록 함 (#27703) * vulkan : strided f16 KV를 한 번 복사하여 읽기가 메모리 채널에 분산되도록 함 Assisted-by: Claude (Opus 4.8 / Opus 5) * tests : f16 KV의 scratch 복사 커버 Assisted-by: Claude (Opus 4.8 / Opus 5) * vulkan : f16 KV scratch 복사를 AMD로 제한 Assisted-by: Claude (Opus 4.8 / Opus 5) * vulkan : f16 KV scratch 채우기에 범용 copy 셰이더 재사용 f16 절은 dequant가 아닌 strided 복사만 필요하므로 전용 셰이더를 제거하고 기존 copy 파이프라인을 대신 디스패치합니다. 복사는 소스 메모리 순서로 기술되어 strided 접근이 스트리밍되는 쓰기에 적용되고, 소수의 메모리 채널에 집중될 수 있는 읽기에는 적용되지 않습니다. Assisted-by: Claude (Opus 4.8 / Opus 5 / Fable 5) * vulkan : strided KV scratch 복사를 bf16으로 확장 Assisted-by: Claude Opus 5 * vulkan : 주석 정리 Assisted-by: Claude Opus 5 * copy 셰이더 통합 * RDNA4에서 비활성화 --------- Co-authored-by: Ruben Ortlam웹사이트: - https://llama.app
Attestations: - https://github.com/ggml-org/llama.cpp/attestations/56251780
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화) DISABLED - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
윈도우(Windows): - Windows x64(CPU)용 - Windows arm64(CPU)용 - Windows arm64(OpenCL Adreno)용 - Windows x64(CUDA 12)용 - CUDA 12.4 DLL - Windows x64(CUDA 13)용 - CUDA 13.4 DLL - Windows arm64(CUDA 13)용 - CUDA 13.4 DLL - Windows x64(Vulkan)용 - Windows arm64(Vulkan)용 - Windows x64(OpenVINO)용 - Windows x64(SYCL)용 - Windows x64(ROCm 10.0)용
openEuler: - DISABLED - openEuler x86 (310p) 환경 - openEuler x86 (910b, ACL Graph) 환경 - openEuler aarch64 (310p) 환경 - openEuler aarch64 (910b, ACL Graph) 환경
UI: - UI