사전 릴리스 / 지속 빌드: 이것은 실험적 빌드이며 안정적인 릴리스가 아닙니다.
rpc : GGML_RPC_DEBUG를 상세도 레벨로 전환하고 로그 추가 (#29544) * rpc : GGML_RPC_DEBUG를 상세도 레벨로 전환하고 로그 추가 GGML_RPC_DEBUG는 이제 숫자로 파싱됩니다: 0/미설정이면 디버그 로그를 비활성화하고, 1-3은 점점 더 상세한 출력(이벤트, 명령별 추적, 전송 계층 세부 정보)을 내보냅니다. 숫자가 아닌 값은 1로 폴백합니다. ggml-rpc.cpp와 transport.cpp에 중복되던 env/macro 블록은 공유 log.h로 대체되었으며, 이제 log.h가 RPC 백엔드의 모든 로깅에 대한 단일 관문이 됩니다: 무조건 출력되는 심각도 로그에는 LOG_ERROR/LOG_WARN/LOG_INFO를, 상세도 게이트가 적용되는 로그에는 LOG_DBG/LOG_DBG2/LOG_DBG3를 사용합니다. transport 파일들은 더 이상 ggml-impl.h가 필요하지 않으며, 서버 배너도 이제 ggml 로거(stderr)를 통해 출력됩니다. 클라이언트 측(핸드셰이크, 버퍼 연산, 텐서 전송, 그래프 연산, 캐시 결정)과 서버 측 (명령별 디스패치, 그래프 노드) 모두에 누락된 로그가 추가되었으며, 여기에는 새로운 socket_t::transport_name()을 통한 협상된 전송 계층 정보도 포함됩니다. Assisted-by: pi:llama.cpp/MiMo-V2.6-Flash-RL * rpc : 문서화된 상세도 의미에 맞게 로그 레벨 정렬 첫 번째 패스에서 GGML_RPC_DEBUG 레벨을 도입했지만, 많은 호출 지점이 문서화된 의미를 따르지 않았고 일부 로그는 매크로를 완전히 우회했습니다: - 나머지 raw GGML_LOG_* 호출 지점을 로컬 LOG_* 매크로로 라우팅하여 log.h가 RPC 로깅의 단일 관문으로 유지되도록 함 - 텐서별 전송과 명령별 핸들러 추적은 레벨 2에서, 일회성 수명 주기 이벤트 (백엔드 및 버퍼 타입 생성, 버퍼 할당, 그래프 연산, 그래프 캐시 퇴거)는 레벨 1에서 출력 - rpc_dispatcher::send의 중복 enqueue 추적 제거, work()가 이미 모든 디스패치된 명령을 왕복 타이밍과 함께 로그로 남김 - 저하된 동작 이벤트를 LOG_WARN으로 승격: 원격 할당 실패, RDMA의 TCP 폴백, 예기치 않은 피어 연결 해제 - 클라이언트와 서버가 증분 그래프 업데이트를 위해 동기화 상태를 유지해야 하므로 양쪽 모두에서 그래프 캐시 퇴거를 로그로 기록 valid - Unknown command(범위를 벗어난 opcode)과 Unhandled command (핸들러가 없는 유효한 opcode)을 구분 - 형식 지정자 수정(size_t에는 %zu, 장치 id에는 %u, 16진수 포인터에는 0x) 및 오류 로그의 누락된 개행 문자 수정 - llama.cpp 애플리케이션은 -lv 5로 상세도 임계값을 올리지 않는 한 ggml 디버그 레코드를 폐기한다는 점 문서화 Assisted-by: pi:llama.cpp/Qwen3.8-Flash-Next웹사이트: - https://llama.app
증명(Attestations): - https://github.com/ggml-org/llama.cpp/attestations/54812036
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화) 비활성화됨 - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
윈도우(Windows): - Windows x64(CPU)용 - Windows arm64(CPU)용 - Windows arm64(OpenCL Adreno)용 - Windows x64(CUDA 12)용 - CUDA 12.4 DLLs용 - Windows x64(CUDA 13)용 - CUDA 13.4 DLLs용 - Windows arm64(CUDA 13)용 - CUDA 13.4 DLLs용 - Windows x64(Vulkan)용 - Windows arm64(Vulkan)용 - Windows x64(OpenVINO)용 - Windows x64(SYCL)용 - Windows x64(ROCm 10.0)용
openEuler: - DISABLED - openEuler x86 (310p) 환경 - openEuler x86 (910b, ACL Graph) 환경 - openEuler aarch64 (310p) 환경 - openEuler aarch64 (910b, ACL Graph) 환경
UI: - UI