Pre-release / 연속 빌드: 이것은 실험적인 빌드이며 안정 릴리스가 아닙니다.
meta : 호스트 뷰 처리 (#30217) * meta : 호스트에 할당된 텐서의 뷰 처리 뷰는 view_src의 메모리를 공유하므로 ggml-alloc은 뷰가 속한 split의 버퍼에 뷰를 할당하지 않습니다 - 스케줄러가 소스를 split에 복사하고 뷰를 사용하는 연산들이 그 복사본을 읽습니다. 뷰 노드 자체는 noop이며 자체 split이 필요 없지만, meta split 안에 남겨지면 meta 백엔드가 assertion 오류를 냈습니다: - ggml_backend_meta_get_split_state()가 tensor->buffer->context를 역참조함 - 그래프 재빌드가 모든 노드를 ggml_backend_meta_buffer_simple_tensor()로 매핑함 호스트 텐서의 뷰인 경우 이러한 노드를 수용하며, 이는 기존의 s_copy_main 우회 방법을 일반화하기도 합니다. 이로써 부분 오프로드와 함께 --split-mode tensor를 사용할 때 KV 캐시 뷰가 걸리던 assertion이 수정됩니다. Assisted-by: pi:llama.cpp/Qwen3.8-Flash-Next * archs : K2 Horizon에 대한 sm 텐서 재활성화 * cont : TODO 및 참조 추가웹사이트: - https://llama.app
Attestations: - https://github.com/ggml-org/llama.cpp/attestations/54357448
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화됨) 비활성화됨 - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
Windows 버전: - Windows x64 (CPU) 버전 - Windows arm64 (CPU) 버전 - Windows arm64 (OpenCL Adreno) 버전 - Windows x64 (CUDA 12) 버전 - CUDA 12.4 DLL 파일 - Windows x64 (CUDA 13) 버전 - CUDA 13.4 DLL 파일 - Windows arm64 (CUDA 13) 버전 - CUDA 13.4 DLL 파일 - Windows x64 (Vulkan) 버전 - Windows arm64 (Vulkan) 버전 - Windows x64 (OpenVINO) 버전 - Windows x64 (SYCL) 버전 - Windows x64 (ROCm 10.0) 버전
openEuler: - DISABLED - openEuler x86 (310p) 대상 - openEuler x86 (910b, ACL Graph) 대상 - openEuler aarch64 (310p) 대상 - openEuler aarch64 (910b, ACL Graph) 대상
UI: - UI