llama.cpp Releases출처 게시일

[사전 릴리스 / 연속 빌드] b11774

사전 릴리스 / 연속 빌드: 이것은 실험적인 빌드이며 안정 릴리스가 아닙니다.

사전 릴리스 / 연속 빌드: 이것은 실험적인 빌드이며 안정 릴리스가 아닙니다.

mtmd : lfm2 타일과 레이아웃이 transformers와 일치하도록 수정 (#30261) * mtmd : lfm2 타일이 이미지를 그리드에 맞게 늘림 Lfm2VlImageProcessor.crop_image_to_patches는 타일을 자르기 전에 이미지를 (512 * rows, 512 * cols)로 바로 리사이즈합니다. llama.cpp는 LFM2에 대해 종횡비를 유지하고 검은 막대를 추가했습니다(늘린 것은 d1-omni뿐), 그래서 d1-3B 및 모든 LFM2-VL / LFM2.5-VL 모델의 타일은 이미지가 그리드의 종횡비를 갖지 않는 한 transformers와 달랐습니다. PAD_NONE을 사용하면 타일이 transformers와 동일합니다. * mtmd : 배정밀도 Python 반올림을 사용하는 lfm2 레이아웃 Lfm2VlImageProcessor.smart_resize는 Python의 round(half to even)로 반올림하며 beta와 타일 그리드 종횡비를 double로 계산합니다. llama.cpp는 std::round와 float를 사용했으므로, [1,4096]^2 범위의 16.7M 크기 중 31926개가 transformers(및 d1-omni vision.py)와 다른 썸네일 크기나 그리드를 얻었습니다. 예를 들어 400x600 -> 384x608이 아닌 416x608, 720x1600 -> 2x4가 아닌 2x5 타일이 되었습니다. 이제 lfm2 smart resize와 그리드 선택은 Python 코드를 따르며 해당 범위의 모든 크기에서 일치합니다. * fix --------- Co-authored-by: Xuan Son Nguyen

웹사이트: - https://llama.app

증명(Attestations): - https://github.com/ggml-org/llama.cpp/attestations/58040210

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화) 비활성화됨 - macOS Intel (x64) - iOS XCFramework

리눅스: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설치 가이드

안드로이드: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설치 가이드

윈도우: - 윈도우 x64 (CPU) - 윈도우 arm64 (CPU) - 윈도우 arm64 (OpenCL Adreno) - 윈도우 x64 (CUDA 12) - CUDA 12.4 DLL들 - 윈도우 x64 (CUDA 13) - CUDA 13.4 DLL들 - 윈도우 arm64 (CUDA 13) - CUDA 13.4 DLL들 - 윈도우 x64 (Vulkan) - 윈도우 arm64 (Vulkan) - 윈도우 x64 (OpenVINO) - 윈도우 x64 (SYCL) - 윈도우 x64 (ROCm 10.0)

openEuler: - 비활성화됨 - openEuler x86 (310p) 환경 - openEuler x86 (910b, ACL Graph) 환경 - openEuler aarch64 (310p) 환경 - openEuler aarch64 (910b, ACL Graph) 환경

UI: - UI

원문 출처

llama.cpp Releases

내용 안내

원문 발행 및 권리는 출처에 있습니다.

기계 번역 · 원문을 참고하세요