사전 릴리스 / 지속 빌드: 이것은 실험적인 빌드이며 안정 릴리스가 아닙니다.
model: SenseNova U1 모델 지원 추가 (#28919) * model : SenseNova U1 이해(understanding) 지원 추가 U1.5-8B-MoT 모델을 포함하여 dense SenseNova U1 이해 브랜치에 대한 지원을 추가합니다. - NEOChatModel의 HF-to-GGUF 변환을 추가하고, MoT 생성 텐서를 제외하며 시간(temporal) 및 공간(spatial) Q/K 정규화 가중치를 연결합니다. - sensenova_u1 GGUF 아키텍처 및 사용자 지정 공간 RoPE 메타데이터를 등록합니다. - 4축 RoPE를 사용하는 시간/공간 Q/K 정규화를 구현합니다. - U1 전용 텍스트 위치 처리를 모델 구현 내에 유지합니다. - sensenova_u1에 대한 합성 아키텍처 커버리지를 추가합니다. dense 이해 브랜치만 지원되며, 생성(generation) 브랜치는 변환 시 의도적으로 거부됩니다. * conversion : 단일 전문가(one-expert) SenseNova U1 구성을 dense로 처리 * mtmd : SenseNova U1 비전 지원 추가 SenseNova U1 비전 인코더에 대한 변환 지원을 추가하고 해당 CPU mtmd 프로젝터 그래프를 구현합니다. 이 그래프는 동적 해상도 이미지 입력에 대해 패치 임베딩, GELU, 인접 쌍 2D RoPE, 공간 다운샘플링 및 dense 프로젝션을 적용합니다. * mtmd : SenseNova U1 비전 토큰 레이아웃 수정 * model : SenseNova U1 RoPE 메타데이터 정리 변환, 모델 로딩 및 아키텍처 테스트에서 사용되는 공유 GGUF 및 LLM_KV 정의로 하드코딩된 공간 RoPE 키를 대체합니다. SenseNova U1이 사용자 지정 텍스트 위치 입력을 유지하는 이유를 명확히 설명합니다: U1은 [t, 0, 0, 0]을 사용하는 반면, 범용 M-RoPE 입력은 [t, t, t, 0]을 사용합니다. * mtmd : SenseNova U1 프로젝터 통합 단순화 SenseNova U1 dense 프로젝션을 표준 mm.0 가중치 및 바이어스 텐서에 매핑하고, 로더와 그래프에서 공유 프로젝터 필드를 재사용합니다. 체크포인트 구성에서 비전 매개변수를 읽고, strided 프로젝션, 바이어스 및 행 우선(row-major) 토큰 레이아웃을 유지하면서 U1 전용 텐서 이름과 모델 필드를 제거합니다. * mtmd : SenseNova U1 이미지 위치 및 어텐션 수정 * 공백 수정 * mtmd : 범용 테스트 입력 청크 복원 * mtmd : 복원 SenseNova U1 통합 - 업스트림 병합 이후 * conversion/sensenova_u1.py 업데이트 Co-authored-by: Sigbjørn Skjæret * src/models/sensenova-u1.cpp 업데이트 Co-authored-by: Sigbjørn Skjæret * model : SenseNova U1 BF16 활성화 캐스트 제거 출력 텐서 타입에 따라 입력을 캐스팅하는 대신, QKV, FFN 및 출력 프로젝션에 표준 백엔드 정밀도 처리를 사용합니다. Assisted-by: Codex * src/models/sensenova-u1.cpp 업데이트 Co-authored-by: Sigbjørn Skjæret --------- Co-authored-by: Sigbjørn Skjæret웹사이트: - https://llama.app
증명(Attestations): - https://github.com/ggml-org/llama.cpp/attestations/58406636
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI 활성화) 비활성화됨 - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 라이브러리 - Ubuntu x64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 라이브러리 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 설정 가이드
윈도우(Windows): - Windows x64 (CPU) 버전 - Windows arm64 (CPU) 버전 - Windows arm64 (OpenCL Adreno) 버전 - Windows x64 (CUDA 12) 버전 - CUDA 12.4 DLL - Windows x64 (CUDA 13) 버전 - CUDA 13.4 DLL - Windows arm64 (CUDA 13) 버전 - CUDA 13.4 DLL - Windows x64 (Vulkan) 버전 - Windows arm64 (Vulkan) 버전 - Windows x64 (OpenVINO) 버전 - Windows x64 (SYCL) 버전 - Windows x64 (ROCm 10.0) 버전
openEuler: - 비활성화됨 - openEuler x86(310p) 환경 - openEuler x86(910b, ACL Graph) 환경 - openEuler aarch64(310p) 환경 - openEuler aarch64(910b, ACL Graph) 환경
UI: - UI