IT之家 AI

Underdog AI, Saluki 27B 모델 공개: 2-bit 양자화된 Qwen3.8-27B, 7.89GB 크기

IT之家 10월 10일 소식, 인공지능 연구소 Underdog AI가 이번 달 Saluki 27B 모델을 공개했습니다. 해당 모델은 Qwen3.8-27B의 2-bit 양자화 튜닝 버전으로, 텍스트 I/O 능력만 유지하며, 파일 크기는 7.89 GB에 불과합니다. Underdog 측은 Saluki가 에이전트 애플리케이션용으로 설계되었으며, 일상 추론과 도구 사용에 강하고 수학 성능은 상대적으로…

이미지 출처 · IT之家 AI

IT之家 10월 10일 소식, 인공지능 연구소 Underdog AI가 이번 달 Saluki 27B 모델을 공개했습니다. 해당 모델은 Qwen3.8-27B의 2-bit 양자화 튜닝 버전으로, 텍스트 I/O 능력만 유지하며,파일 크기는 7.89 GB에 불과합니다。

Underdog 측은 Saluki가 에이전트 애플리케이션용으로 설계되었으며,일상 추론과 도구 사용에 강하고수학 성능은 상대적으로 약하다고 밝혔습니다. 도구 선택 및 다중 도구 병렬 호출 성능은 오히려 풀 사이즈의 Qwen3.8-27B보다 우수합니다.

Saluki 모델은 표준 llama.cpp 형식을 사용하며, 표준 llama.cpp 및 이를 기반으로 구축된 애플리케이션에서 별도의 사용자 지정 컴파일 없이 로드할 수 있습니다.

참고

광고 성명: 본문에 포함된 외부 이동 링크(하이퍼링크, QR코드, 구호 등의 형식을 포함하되 이에 국한되지 않음)는 더 많은 정보를 전달하고 판별 시간을 절약하기 위한 것으로, 결과는 참고용이며, IT之家는 외부 링크가 포함된 모든 글에 본 성명을 포함합니다.

원문 출처

IT之家 AI

내용 안내

원문 발행 및 권리는 출처에 있습니다.

기계 번역 · 원문을 참고하세요