Pre-release / continuous build: 이것은 실험적인 빌드이며 안정적인 릴리스가 아닙니다.
graph: 임베딩 없이도 그래프를 비어 있지 않게 유지 (#30522) 임베딩 전용 그래프는 logits가 없고, embeddings가 꺼져 있으면 build_pooling()이 조기 반환하므로, 모델들이 더 이상 t_embd를 확장하지 않게 되면서 그래프가 비어 있게 되고 그 입력들이 할당되지 않습니다. 이 경우 t_embd를 확장합니다.웹사이트: - https://llama.app
증명(Attestations): - https://github.com/ggml-org/llama.cpp/attestations/56206571
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화됨) 비활성화됨 - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설치 가이드
Windows용: - Windows x64(CPU) - Windows arm64(CPU) - Windows arm64(OpenCL Adreno) - Windows x64(CUDA 12) - CUDA 12.4 DLL - Windows x64(CUDA 13) - CUDA 13.4 DLL - Windows arm64(CUDA 13) - CUDA 13.4 DLL - Windows x64(Vulkan) - Windows arm64(Vulkan) - Windows x64(OpenVINO) - Windows x64(SYCL) - Windows x64(ROCm 10.0)
openEuler: - 비활성화됨 - openEuler x86 (310p)용 - openEuler x86 (910b, ACL Graph)용 - openEuler aarch64 (310p)용 - openEuler aarch64 (910b, ACL Graph)용
UI: - UI