Pre-release / continuous build: 이것은 실험적인 빌드이며 안정 릴리스가 아닙니다.
tests : 컨텍스트 상태 테스트들을 test-llama-context로 통합 (#30023) * tests : 컨텍스트 상태 테스트들을 test-llama-context로 통합 test-save-load-state, test-recurrent-state-rollback, test-state-restore-fragmented는 세 곳에서 동일한 객체를 검사합니다: llama_context의 KV 캐시와 순환 상태가 저장, 로드, 복사, 롤백되는 것입니다. 각각 고유한 main, 모델에 대한 고유한 루프, 토큰과 비교 헬퍼의 고유한 사본을 가지고 있었고, 세 테스트를 모두 실행하면 동일한 모델들을 여러 번 로드했습니다. 이제 하나의 바이너리가 되었으며, 케이스가 테스트의 단위입니다: tests/llama-context/test-case.h 케이스가 구현하는 인터페이스 tests/llama-context/cases-kv.cpp KV 캐시의 케이스들 tests/llama-context/cases-rs.cpp 순환 상태의 케이스들 tests/llama-context/test-util.cpp 토큰, 생성, 비교 tests/llama-context/test-runner.cpp 케이스의 모델들, 스레드에서 실행 tests/llama-context/test-log.cpp 모델의 로그 파일 한 번의 실행은 하나의 표입니다: 모델마다 하나의 행, 케이스마다 하나의 열, 각 셀에는 해당 쌍의 판정이 들어갑니다. 모델들은 여러 스레드에서 로드되고(-j, --threads, 기본값 min(cores, 4)), 표는 완성되었을 때 출력되며, 실패한 모델의 로그는 그 뒤에 행 순서대로 출력됩니다. 케이스는 판정과 그 이유를 반환하고, 러너만이 보고합니다 - 이 테스트는 tests/testing.h를 사용하지 않으며, 130개 모델에 걸친 실행은 판정들의 행렬이지 서브테스트의 트리가 아닙니다. 스테이징은 더 이상 환경을 통하지 않습니다: llama_model_set_attn_rot가 LLAMA_ATTN_ROT_DISABLE 변수를 대체합니다. 이 변수는 한 스레드에서 로드된 모델이 다른 스레드들이 로드 중이던 모델들을 위해 변경하던 것이었으며, 메모리의 버퍼를 복사하는 케이스들을 위해 llama_memory_get_buffers가 추가됩니다. common_log_set_stdo는 표가 작성되는 동안 콘솔을 조용히 유지합니다. ggml_aligned_malloc은 thread sanitizer가 켜져 있을 때 posix_memalign으로 할당합니다. macOS에서는 Mach VM으로 할당하는데, 이는 sanitizer가 가로채지 않으므로 페이지 범위의 소유가 바뀌는 것을 결코 감지하지 못하고 재활용된 메모리에 대한 첫 번째 쓰기를 경쟁 상태로 보고합니다 - 이 테스트에서 30건이 발생했고, 그 모두가 오탐이었습니다. Assisted-by: pi:llama.cpp/Qwen3.8-Flash-Next * cont : 기본적으로 단일 스레드로 실행 * cont : 모든 플랫폼에서 테스트 빌드 시도 * cont : 불필요한 부분 정리 * cont : 수정 * cont : 수정한 것을 다시 수정웹사이트: - https://llama.app
증명(Attestations): - https://github.com/ggml-org/llama.cpp/attestations/55569169
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화) 비활성화됨(DISABLED) - macOS Intel (x64) - iOS XCFramework
리눅스: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설치 가이드
안드로이드: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설치 가이드
Windows: - Windows x64(CPU) 버전 - Windows arm64(CPU) 버전 - Windows arm64(OpenCL Adreno) 버전 - Windows x64(CUDA 12) 버전 - CUDA 12.4 DLL - Windows x64(CUDA 13) 버전 - CUDA 13.4 DLL - Windows arm64(CUDA 13) 버전 - CUDA 13.4 DLL - Windows x64(Vulkan) 버전 - Windows arm64(Vulkan) 버전 - Windows x64(OpenVINO) 버전 - Windows x64(SYCL) 버전 - Windows x64(ROCm 10.0) 버전
openEuler: - DISABLED - openEuler x86 (310p)용 - openEuler x86 (910b, ACL Graph)용 - openEuler aarch64 (310p)용 - openEuler aarch64 (910b, ACL Graph)용
UI: - UI