사전 릴리스 / 지속 빌드: 실험적 빌드이며 안정 릴리스가 아닙니다.
CUDA: 메이저 버전 롤오버 시 깨지는 CCCL 버전 가드 수정 (#29453) * CUDA: 메이저 버전 롤오버 시 깨지는 CCCL 버전 가드 수정 이 가드는 메이저와 마이너 구성 요소를 독립적으로 비교했습니다: CCCL_MAJOR_VERSION >= 3 && CCCL_MINOR_VERSION >= 1 마이너는 새 메이저 시리즈가 시작될 때마다 0으로 초기화되므로, CCCL 4.x에서는 이 표현식이 4 >= 3 && 0 >= 1, 즉 false로 평가됩니다. STRIDED_ITERATOR_AVAILABLE이 정의되지 않게 되고 argsort는 조용히 init_offsets 경로로 폴백합니다. 아무 경고도 없고 빌드는 여전히 성공하므로, 이 회귀는 컴파일 오류가 아니라 조용한 성능 저하입니다. CCCL은 이미 버전을 MMMmmmpp 형식의 단일 패킹 정수로 노출하며, 자체 버전 헤더도 이를 사용합니다: CCCL_VERSION = MAJOR * 1000000 + MINOR * 1000 + PATCH 따라서 3.4.3은 3004003이고 ">= 3.1"은 단순한 ">= 3001000"입니다. 하나의 비교만 남고, 잘못될 여지가 있는 구성 요소 산술은 없습니다. 직접 작성한 "version >= 3.1" 참조 구현으로 2.9.9, 3.0.0, 3.1.0, 3.1.99, 3.2.0, 3.4.3, 3.9.9, 3.99.99, 4.0.0, 4.2.7, 5.0.0에 대해 확인했습니다: 불일치 없음. 기존 가드는 4.0.0과 5.0.0에서 불일치했습니다. RTX 4070 (sm_89), CUDA 13.4, CCCL 3.4.3에서 검증: - cmake --build build --config Release: exit 0 - test-backend-ops test -o ARGSORT -b CUDA0: 98/98 passed, CUDA0 OK 회귀 테스트가 통과하는 것만으로는 폴백 경로도 통과하므로 가드가 여전히 적용된다는 것을 증명하지 못한다는 점에 유의하십시오. 실제 번역 단위를 전처리하면 strided-iterator 분기가 컴파일에 포함된 분기임이 확인됩니다: counting_iterator는 존재하고 init_offsets는 존재하지 않습니다. Signed-off-by: Heitor * Update ggml/src/ggml-cuda/argsort.cu * Apply suggestion from @ORippler --------- Signed-off-by: Heitor Co-authored-by: Oliver Simons웹사이트: - https://llama.app
증명(Attestations): - https://github.com/ggml-org/llama.cpp/attestations/53997029
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화) 비활성화됨 - macOS Intel (x64) - iOS XCFramework
리눅스: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
안드로이드: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
Windows(윈도우): - Windows x64 (CPU)용 - Windows arm64 (CPU)용 - Windows arm64 (OpenCL Adreno)용 - Windows x64 (CUDA 12)용 - CUDA 12.4 DLL 파일 - Windows x64 (CUDA 13)용 - CUDA 13.4 DLL 파일 - Windows arm64 (CUDA 13)용 - CUDA 13.4 DLL 파일 - Windows x64 (Vulkan)용 - Windows arm64 (Vulkan)용 - Windows x64 (OpenVINO)용 - Windows x64 (SYCL)용 - Windows x64 (ROCm 10.0)용
openEuler: - DISABLED - openEuler x86 (310p) 환경 - openEuler x86 (910b, ACL Graph) 환경 - openEuler aarch64 (310p) 환경 - openEuler aarch64 (910b, ACL Graph) 환경
UI: - UI