사전 출시 / 연속 빌드: 실험적 빌드이며 안정 릴리스가 아닙니다.
server: 요청이 사용 중인 슬롯을 고정할 때 해당 슬롯을 건드리지 않도록 수정 (#30295) 사용 중인 id_slot을 요청하는 요청이 연기되기 전에 해당 슬롯에서 프롬프트 캐시 업데이트를 여전히 실행했습니다. RAM 캐시에 더 나은 일치 항목이 있을 때, 다른 요청이 아직 그 슬롯에서 생성 중인 동안 그 항목이 슬롯에 로드되었고, 그 생성이 잘못된 컨텍스트에서 계속되었습니다. 이제 사용 중인 슬롯은 그대로 반환되며 요청은 해당 슬롯을 기다립니다.웹사이트: - https://llama.app
Attestations: - https://github.com/ggml-org/llama.cpp/attestations/54667254
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화) 비활성화됨 - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
윈도우(Windows): - Windows x64 (CPU)용 - Windows arm64 (CPU)용 - Windows arm64 (OpenCL Adreno)용 - Windows x64 (CUDA 12)용 - CUDA 12.4 DLL 파일 - Windows x64 (CUDA 13)용 - CUDA 13.4 DLL 파일 - Windows arm64 (CUDA 13)용 - CUDA 13.4 DLL 파일 - Windows x64 (Vulkan)용 - Windows arm64 (Vulkan)용 - Windows x64 (OpenVINO)용 - Windows x64 (SYCL)용 - Windows x64 (ROCm 10.0)용
openEuler: - DISABLED - openEuler x86 (310p) 환경 - openEuler x86 (910b, ACL Graph) 환경 - openEuler aarch64 (310p) 환경 - openEuler aarch64 (910b, ACL Graph) 환경
UI: - UI