CLI의 결정 모델
결정 모델은 이제 터미널에서 직접 사용할 수 있습니다. ollama run — 예/아니오 질문을 하거나, 텍스트를 레이블로 분류하거나, 기준에 따라 점수를 매기세요:
ollama run nimble --ask "Is a refund being requested?" < ticket.txt
## 변경된 내용
* Kev 결정 모델이 이제 Apple 칩 기반 MLX 러너에서 지원됩니다.
* ollama launch를 유료 플랜으로 업그레이드하지 않고 사용 크레딧과 함께 사용할 수 있습니다.
* ollama launch codex는 모델 선택기에 로컬로 설치한 Ollama 모델도 포함합니다. Codex CLI 내에서 /model를 사용하여 모델을 바꿀 수 있습니다.
* 검증된 매니펫과 이미 로드된 모델을 재사용함으로써 인출 성능이 향상되었습니다.
* llama-server를 통해 다중 모달 임베딩에 대한 지원이 추가되었습니다.
* 작은 컨텍스트 윈도우로 다중 모달 임베딩 모델을 로드하는 문제가 수정되었습니다.
* MLX 러너를 사용하여 NVIDIA GPU에서 Gemma 4의 프리필 성능이 향상되었습니다.
* MLX 러너는 긴 Laya 상태를 거부하는 대신 클립 처리합니다.
* MLX 러너의 추측적 디코딩 신뢰성이 향상되었으며, 롤백 후 재발생 상태 처리도 포함됩니다.
* 네이티브 결정 모델 지원을 위한 llama.cpp가 업데이트되었습니다.
* 더 명확한 개인정보 보호 및 클라우드 서비스 관련 문구로 README와 문서가 업데이트되었습니다.
전체 변경 기록: https://github.com/ollama/ollama/compare/v0.40.3...v0.40.4