Pre-release / continuous build: 안정 버전 릴리스가 아닌 실험적 빌드입니다.
common: http 클라이언트에서 HTTP_PROXY/HTTPS_PROXY 환경 변수 지원 (#21752) * common: http 클라이언트에서 HTTP_PROXY/HTTPS_PROXY 환경 변수 지원 common_http_client()가 표준 프록시 환경 변수를 무시하여, HTTP 프록시 뒤에 있는 환경(기업 네트워크, 에어갭 인프라 등)에서 -hf 및 유사 플래그를 통한 다운로드가 조용히 실패했습니다. https:// URL에 대해서는 HTTPS_PROXY/https_proxy를, http:// URL에 대해서는 HTTP_PROXY/http_proxy를 순서대로 확인합니다. 프록시 URL이 설정되어 있고 파싱 가능한 경우, 적절히 httplib의 set_proxy()와 set_proxy_basic_auth()에 전달합니다. 잘못된 형식의 프록시 URL은 조용히 무시되어 기존 호출자에게 영향을 주지 않습니다. Fixes #21694 * common: 일반 프록시 폴백에 대한 오해를 일으키는 주석 제거 해당 주석은 코드에 존재하지 않는 'generic one'을 참조하고 있었습니다 — HTTP_PROXY와 HTTPS_PROXY는 모두 스킴별입니다. 리뷰어가 이 불일치를 지적했습니다. @ServeurpersoCom의 리뷰 피드백을 반영합니다. * common : 환경에서 가져온 프록시 URL이 잘못된 형식일 때 경고 * common : http 프록시 선택 시 NO_PROXY 지원 * ci : checks 재실행 (test-thread-safety flake) * common : 루프백 대상에 대해서는 프록시 우회 llama cli는 127.0.0.1의 자체 스폰 서버와 common_http_client를 통해 통신하므로, HTTP_PROXY가 설정되어 있고 NO_PROXY가 없으면 헬스 폴링이 루프백 대상을 거부하는 기업 프록시로 전송되어 대기 루프가 끝나지 않았습니다 ("Loading model..."이 영원히 멈춤). 원격 프록시는 클라이언트 머신 자체의 루프백에 도달할 수 없으므로, 이러한 대상은 이제 NO_PROXY를 확인하기 전에 항상 직접 연결됩니다: localhost, *.localhost, 127.0.0.0/8, ::1 및 0.0.0.0. Go의 net/http와 유사합니다. 다운로드 및 원격 --server-base 엔드포인트에 대한 프록시 처리는 변경되지 않았습니다. Signed-off-by: texasich <101962694+texasich@users.noreply.github.com> * docs: 프록시 팁을 README에서 server docs로 이동 리뷰에 따라: 최상위 README는 간결하게 유지하고, 프록시 사용법은 Usage 아래의 server docs에 배치합니다 Signed-off-by: texasich <101962694+texasich@users.noreply.github.com> --------- 서명: texasich <101962694+texasich@users.noreply.github.com> 공동 작성자: texasich 공동 작성자: texasich 공동 작성자: marecabo <23156476+marecabo@users.noreply.github.com>웹사이트: - https://llama.app
Attestations: - https://github.com/ggml-org/llama.cpp/attestations/56756047
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화) DISABLED - macOS Intel (x64) - iOS XCFramework
리눅스: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
안드로이드: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
윈도우(Windows): - 윈도우 x64 (CPU) - 윈도우 arm64 (CPU) - 윈도우 arm64 (OpenCL Adreno) - 윈도우 x64 (CUDA 12) - CUDA 12.4 DLL 파일 - 윈도우 x64 (CUDA 13) - CUDA 13.4 DLL 파일 - 윈도우 arm64 (CUDA 13) - CUDA 13.4 DLL 파일 - 윈도우 x64 (Vulkan) - 윈도우 arm64 (Vulkan) - 윈도우 x64 (OpenVINO) - 윈도우 x64 (SYCL) - 윈도우 x64 (ROCm 10.0)
openEuler: - DISABLED - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph) 지원 목록
UI: - UI