llama.cpp Releases

[프리릴리스 / 연속 빌드] b11418

[프리릴리스 / 연속 빌드] server: Clef를 위한 비전 입력 지원 (#29969) * server: Clef를 위한 비전 입력 지원 * input_attn_causal을 private으로 이동 * 기존 server_batch::embd 확장 * server_batch::token::pos를 다차원으로 확장 * 자잘한 수정 * abort 수정 * img tokens cap 수정 *…

프리릴리스 / 연속 빌드: 이는 실험적인 빌드이며 안정 릴리스가 아닙니다.

server: Clef를 위한 비전 입력 지원 (#29969) * server: Clef를 위한 비전 입력 지원 * input_attn_causal을 private으로 이동 * 기존 server_batch::embd 확장 * server_batch::token::pos를 다차원으로 확장 * 자잘한 수정 * abort 수정 * img tokens cap 수정 * yield_to_queue의 데이터 변경 수정

웹사이트: - https://llama.app

증명(Attestations): - https://github.com/ggml-org/llama.cpp/attestations/52850734

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화) 비활성화됨(DISABLED) - macOS Intel (x64) - iOS XCFramework

Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드

Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드

윈도우(Windows): - 윈도우(Windows) x64(CPU) - 윈도우(Windows) arm64(CPU) - 윈도우(Windows) arm64(OpenCL Adreno) - 윈도우(Windows) x64(CUDA 12) - CUDA 12.4 DLL - 윈도우(Windows) x64(CUDA 13) - CUDA 13.4 DLL - 윈도우(Windows) arm64(CUDA 13) - CUDA 13.4 DLL - 윈도우(Windows) x64(Vulkan) - 윈도우(Windows) arm64(Vulkan) - 윈도우(Windows) x64(OpenVINO) - 윈도우(Windows) x64(SYCL) - 윈도우(Windows) x64(ROCm 10.0)

openEuler: - DISABLED - openEuler x86 (310p 사용) - openEuler x86 (910b, ACL Graph 사용) - openEuler aarch64 (310p 사용) - openEuler aarch64 (910b, ACL Graph 사용)

UI: - UI

원문 출처

llama.cpp Releases

내용 안내

원문 발행 및 권리는 출처에 있습니다.

기계 번역 · 원문을 참고하세요