NVIDIA Nemotron 3.5 Super
NVIDIA Nemotron 3.5 Super 는 코딩, 추론, 도구 사용, 문서 이해를 위한 비전-언어 모델입니다. 120B 파라미터 하이브리드 Mamba-2/Transformer mixture-of-experts 백본(토큰당 12B 활성)에 C-RADIO 비전 인코더를 결합했으며, 도구 호출, 켜고 끌 수 있는 thinking 모드, 최대 1M 토큰의 컨텍스트를 지원합니다.
ollama run nemotron-3.5-super
컴팩트한 형제 모델인 Nemotron 3.5 Bolt는 Super를 74B 파라미터(9B 활성)로 증류하여 24 GB NVIDIA GPU에 맞춰 일상적인 에이전트 작업에 사용할 수 있도록 조정되었으며, 포함된 drafter를 통한 speculative decoding을 지원합니다.
변경 사항
- Decision 모델이 이제 클라우드에서 사용 가능합니다 — 다음을 사용하세요
clef:cloud그리고clef-flash:cloud로컬로 가져오지 않고 ollama.com 클라우드를 통해 decision 모델을 실행할 수 있습니다 - 사용자 지정 도구 호출이 포함된 OpenAI 호환 Responses 대화를 계속할 때 더 이상 오류가 발생하지 않습니다
- 클라우드 접근 실패 시 더 명확한 오류 메시지: 로그인 문제, 데스크톱 앱의 결제 문제, ChatGPT 게이트웨이의 업스트림 접근 오류가 이제 무엇이 잘못되었는지 설명합니다
- llama.cpp 업데이트(Nemotron 3.5 지원 추가) 및 MLX
새로운 기여자
- @willietran이 https://github.com/ollama/ollama/pull/18986 에서 첫 기여를 했습니다
전체 변경 내역: https://github.com/ollama/ollama/compare/v0.40.4...v0.40.5