사전 릴리스 / 지속 빌드: 이것은 실험적 빌드이며 안정 릴리스가 아닙니다.
hexagon: CPY/CONCAT 최적화 — 3라운드, short-rows 에디션 (#30341) * hexagon: DMA 디스크립터당 행 블록 단위로 변환 CPY를 이동하여 short row가 DMA 지연 시간에 묶이지 않도록 함 * hex-cpy: cpy 커서 처리 정리 * hex-cpy-concat: 스레드화된 dma/hvx gather-row 헬퍼 도입 Co-authored-by: Ruslan Karymov <67752306+karusrus@users.noreply.github.com> * hex-cpy: 확장 버퍼에 대한 남아 있는 거부 로직 제거 * hex-cpy: fast-path 게이트 완화 * hex-cpy: 스칼라 나눗셈과 vtcm 접근 제거 및 명시적 gather_sync 사용 * hex-cpy: mdev 작업 분할에 대한 fastpath의 적절한 지원 추가 * hex-cpy: dense gather-row 작업 최적화 * hex-cpy: gather-rows 루프 언롤 * hex-cpy: f16용 fastpath 추가 * hex-cpy-concat: 3/4D 차원 축소(colapsing) 지원 * hex-cpy: 더블 버퍼링 지원 * hex-cpy: gather-rows를 보다 독립적인 op로 분리 * hex-cpy-concat: kernel-params 중복 제거 * hex-cpy-concat: 하드 실패 대신 nr을 단계적으로 낮춰 맞춤 * hex-gather: div를 마스크로 대체 * hex-gather-rows: dma 파이프라인 정리 및 스톨 제거 * hex-gather: compute 함수 특수화 * hex-gather: 스칼라 reg.spills 및 func 호출 감소 * hex-gather: npu에서 rows-per-thread 재계산하지 않음 * hex-build: hexagon만 빌드/설치할 수 있는 지원 추가 * hex-cpy-concat: concat의 중복 barrier 제거 및 cpy barrier를 fence 아래로 이동 * hex-gather: dma-out에 대한 어노테이션 * hex-mdev: 모든 주요 vtcm_acquire 동기화 상태를 원자적(atomic)으로 변경 (mdev 설정에서 무작위 행 hang 수정) --------- Co-authored-by: Yiwei Shao Co-authored-by: Ruslan Karymov <67752306+karusrus@users.noreply.github.com>웹사이트: - https://llama.app
증명(Attestations): - https://github.com/ggml-org/llama.cpp/attestations/55095068
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화) 비활성화됨(DISABLED) - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
윈도우(Windows): - Windows x64 (CPU) 버전 - Windows arm64 (CPU) 버전 - Windows arm64 (OpenCL Adreno) 버전 - Windows x64 (CUDA 12) 버전 - CUDA 12.4 DLL 파일 - Windows x64 (CUDA 13) 버전 - CUDA 13.4 DLL 파일 - Windows arm64 (CUDA 13) 버전 - CUDA 13.4 DLL 파일 - Windows x64 (Vulkan) 버전 - Windows arm64 (Vulkan) 버전 - Windows x64 (OpenVINO) 버전 - Windows x64 (SYCL) 버전 - Windows x64 (ROCm 10.0) 버전
openEuler: - 비활성화됨 - openEuler x86 (310p) 환경 - openEuler x86 (910b, ACL Graph) 환경 - openEuler aarch64 (310p) 환경 - openEuler aarch64 (910b, ACL Graph) 환경
UI: - UI