IT之家 10월 9일 소식에 따르면, JetBrains는 어제(10월 8일) 블로그 글을 발표하여 Mellum2.1 모델을 출시했다고 밝혔습니다. 이 모델은 스마트 아티 프로그래밍 능력을 강화하는 데 중점을 두고 있습니다. 이 모델은 Mellum2의 12B 혼합 전문가 아키텍처를 유지하며, 2.5B의 활성 파라미터를 갖추고 있고, Apache 2.0 라이선스를 계속 사용하여 배포됩니다.
Mellum2.1은 주로 전인 훈련 후 강화 학습 단계를 업그레이드하여, 단기 마무리 과정을 훈련의 주요 부분으로 확장하고, 수학, 알고리즘 경시, 과학, 도구 사용, 소프트웨어 공학 등의 작업에서 훈련 데이터를 보완합니다.
JetBrains는 이 모델을 위한 내부 강화학습 환경 인프라를 구축했으며, 훈련 기간 동안 수백만 개의 샌드박스를 실행하여 수천 가지 환경을 포함시켰다. 또한 훈련 전에 팀은 공개 데이터 세트를 선별하여 테스트 결함, 검증할 수 없는 답변 및 적절하지 않은 난이도의 과제를 제거했다.
업그레이드 후, Mellum 2.1은 코드 라이브러리를 탐색하고 파일을 편집하며 자신이 수정한 내용을 확인할 수 있다. JetBrains에 따르면, 가장 큰 개선점은 아지트 프로그래밍 분야에서 나타나며, 모델은 실패 테스트의 근본 원인을 인식하고 수정 방안을 작성하며 결과를 검증할 수 있다.
성능 측면에서, Mellum2.1은 Mellum2 아키텍처와 동일하며 속도는 변함이 없지만, 다중 토큰 예측(MTP) 기능으로 반응 속도가 더욱 향상되었습니다. 단일 요청 상황에서 MTP를 적용하면 속도가 약 1.6배 증가합니다.
JetBrains는 Mellum2.1을 Mellum2, Qwen3.5-9B 및 Gemma 4 E4B과 동일한 평가 설정 하에서 비교했습니다. 결과에 따르면, 고부하 상황에서 Mellum2.1의 추론 처리 토큰 수는 Qwen3.5-9B의 두 배에 가까웠습니다며, 프로그래밍, 알고리즘 경시, 수학, 도구 호출, 일반 지식 등 여러 측면에서 향상이 있었습니다. IT之家는 관련 스크린샷을 다음과 같이 제공합니다:
Mellum2.1은 현재 Hugging Face에 등록되었으며, 로컬 또는 자체 인프라에서 배포를 지원하여 기업이 코드와 데이터를 자체 환경에 보관할 수 있게 합니다. 공식적으로는 llama.cpp, Ollama 및 LM Studio용 GGUF 버전과 vLLM의 MTP 추론 디코더 구성 요소도 출시될 예정입니다.