사전 릴리스 / 연속 빌드: 이것은 실험적 빌드이며 안정 릴리스가 아닙니다.
cuda: 블록 폭 512 초과용 FWHT 커널 (#29100) CUDA FWHT는 폭 64에서 512까지를 지원합니다. 워프당 하나의 행을 실행하고 레인당 N/32개의 값을 유지하므로, 더 넓은 블록은 해당 레이아웃이 허용하는 것보다 레인당 더 많은 레지스터를 필요로 합니다. fwht_cuda_block은 256개의 스레드로 이루어진 스레드 블록당 하나의 행을 실행하므로, 각 스레드는 N/256개의 값을 유지합니다. 워프 폭 미만의 단계는 여전히 셔플을 사용하고, 블록 폭까지의 단계는 공유 메모리를 거치며, 나머지는 레지스터에 유지됩니다. 워프 커널과 동일한 버터플라이 및 부호 규약입니다. 폭 64에서 512는 워프 커널을 유지합니다. 1024부터 8192까지는 F32와 F16 소스 모두에 대해 새 커널을 사용합니다. ggml_cuda_op_mul_mat_use_fwht (#29096에서 추가된 공유 supports_op/dispatch 술어)는 폭을 검사하지 않으므로 여기서 변경할 필요가 없었습니다: 이것이 허용하는 폭 중 ggml_cuda_op_fwht가 처리할 수 없는 폭은 이미 올바르게 cuBLAS 경로로 폴스루(fall through)됩니다. 동일한 F16 템플릿 인프라에 의존하므로 #29096의 F16 커밋을 그 아래에 두고 현재 master에 리베이스했습니다; 해당 커밋은 깔끔하게 적용되었으며, 유일한 충돌은 test-backend-ops.cpp에서 관련 없는 중간 커밋의 테스트 추가 사항이 이 블록 근처에 들어온 부분이었습니다. A10(lambdalabs)에서의 test-backend-ops: MUL_MAT 1297/1297, 모든 FWHT/Hadamard 케이스 포함 (기존 18개, 신규 F32 와이드 4개, 신규 F16 와이드 4개, 신규 many-rows 2개, 경계 초과 1개가 16384로 이동).웹사이트: - https://llama.app
증명(Attestations): - https://github.com/ggml-org/llama.cpp/attestations/53784056
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화) 비활성화됨 - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
Windows 버전: - Windows x64 (CPU) 버전 - Windows arm64 (CPU) 버전 - Windows arm64 (OpenCL Adreno) 버전 - Windows x64 (CUDA 12) 버전 - CUDA 12.4 DLL 파일 - Windows x64 (CUDA 13) 버전 - CUDA 13.4 DLL 파일 - Windows arm64 (CUDA 13) 버전 - CUDA 13.4 DLL 파일 - Windows x64 (Vulkan) 버전 - Windows arm64 (Vulkan) 버전 - Windows x64 (OpenVINO) 버전 - Windows x64 (SYCL) 버전 - Windows x64 (ROCm 10.0) 버전
openEuler: - DISABLED - openEuler x86 (310p) 환경 - openEuler x86 (910b, ACL Graph) 환경 - openEuler aarch64 (310p) 환경 - openEuler aarch64 (910b, ACL Graph) 환경
UI: - UI