사전 릴리스 / 연속 빌드: 안정 릴리스가 아닌 실험적 빌드입니다.
server : std::regex 없이 특수 토큰 이스케이프 (#30243) d1-omni와 kev 프롬프트는 요청 텍스트의 "<|name|>"을 std::regex_replace로 이스케이프합니다. libstdc++는 이름의 각 문자마다 재귀를 수행하므로, "<|" 상태와 30000자의 문자는 HTTP 스레드의 스택을 오버플로시키고 llama-server는 SIGSEGV로 종료됩니다. server_decision_escape_special_tokens()는 루프를 사용하여 동일한 텍스트를 작성합니다. test-server-component는 "<|>a-"의 최대 6자 모든 문자열에 대해 regex와 비교합니다.Website: - https://llama.app
Attestations: - https://github.com/ggml-org/llama.cpp/attestations/55643841
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화됨) 비활성화됨 - macOS Intel (x64) - iOS XCFramework
리눅스(Linux): - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설치 가이드
안드로이드(Android): - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설치 가이드
윈도우(Windows)용: - Windows x64 (CPU) 버전 - Windows arm64 (CPU) 버전 - Windows arm64 (OpenCL Adreno) 버전 - Windows x64 (CUDA 12) 버전 - CUDA 12.4 DLL 파일 - Windows x64 (CUDA 13) 버전 - CUDA 13.4 DLL 파일 - Windows arm64 (CUDA 13) 버전 - CUDA 13.4 DLL 파일 - Windows x64 (Vulkan) 버전 - Windows arm64 (Vulkan) 버전 - Windows x64 (OpenVINO) 버전 - Windows x64 (SYCL) 버전 - Windows x64 (ROCm 10.0) 버전
openEuler: - DISABLED - openEuler x86(310p)용 - openEuler x86(910b, ACL Graph)용 - openEuler aarch64(310p)용 - openEuler aarch64(910b, ACL Graph)용
UI: - UI