MarkTechPost출처 게시일

Recursive, 에이전트용 활성 파라미터 2.5B개를 갖춘 오픈 웨이트 40B MoE 로컬 코딩 모델 Flint 공개

Recursive Superintelligence가 공개했습니다 플린트, 동사의 첫 모델입니다. Recursive Flint 로컬 코딩 모델은 총 40B, 활성 2.5B 파라미터를 가진 mixture-of-experts(MoE) 모델입니다.

Recursive Superintelligence가 공개했습니다 플린트, 동사의 첫 모델입니다. Recursive Flint 로컬 코딩 모델은 총 40B, 활성 2.5B 파라미터를 가진 mixture-of-experts(MoE) 모델입니다. Recursive 팀은 자동화 연구 시스템인 Eureka Machine이 스택의 거의 모든 부분을 구축하는 데 도움을 주었다고 밝혔습니다. 가중치는 다음에 있습니다. Hugging Face Apache 2.0 라이선스 하에 배포됩니다.

요약

  • 크기: 총 39.8B, 토큰당 활성 파라미터는 약 2.5B. 컨텍스트: 모델 카드에는 262,144 토큰이 문서화되어 있으며, 블로그에서는 최대 512k까지 언급합니다.
  • 실행 환경: 48 GB Apple Silicon Mac(M4 Pro, M5 Pro, M5 Max) 또는 48 GB NVIDIA GPU. 4-bit 가중치는 약 23 GB를 차지합니다.
  • 성능: 에이전틱 코딩에서 50B 미만 MoE 모델 중 Tops Recursive의 차트를 선도합니다. 가장 강력한 dense 모델들에는 미치지 못합니다.
  • Best: IFEval 95.1%. SWE-bench Verified 74.2%.
  • 최악: Terminal-Bench 2.1에서 54.9%를 기록한 반면, dense Qwen 3.8은 73.0%를 기록했습니다.

재귀적 플린트(Recursive Flint)란 무엇인가?

Flint는 코딩 에이전트를 위한 decoder-only MoE Transformer입니다. The 모델 코드베이스를 조사하고, 버그를 수정하고, 기능을 구현하며 테스트를 작성합니다. 텍스트 전용이며 추론과 OpenAI 호환 도구 호출을 지원합니다.

Flint을 소개합니다. @Recursive_SI의 첫 번째 모델: 자동화 연구 시스템인 Eureka Machine으로 구축된 고속 로컬 코딩 모델입니다.

• 최고 수준의 고속 로컬 코딩
• 유사 모델 대비 최대 2배 빠름: MacBook Pro에서 125+ tokens/sec, RTX Spark에서 150+
• 다음으로 구축… pic.twitter.com/ufg2xScSGw

— Richard Socher (@RichardSocher) 2026년 10월 21일

Flint의 아키텍처는 어떻게 작동하나요?

Flint는 49개의 레이어로 구성되어 있습니다: 2개의 dense 레이어, 그 다음 47개의 MoE 레이어입니다. 각 MoE 레이어에는 256개의 라우팅된 전문가가 있습니다. 라우터는 토큰당 6개를 선택하고, 항상 활성 상태인 공유 전문가 1개가 추가됩니다.

어텐션은 2가지 유형을 혼합합니다. 35개 레이어는 513토큰 슬라이딩 윈도우를 사용합니다. 14개 레이어는 위치 인코딩이 없는 전체 어텐션을 사용합니다. 쿼리 헤드는 32개, 키/값 헤드는 4개입니다.

2.5B 활성 수치에는 출력 헤드가 포함됩니다. 활성 본체만 따지면 약 2.2B 파라미터입니다.

Eureka Machine은 Flint를 어떻게 구축했나요?

The Eureka Machine 은 아이디어를 제안하고, 구현하고, 테스트하고, 다음에 시도할 것을 선택합니다.

Recursive는 3가지 기여를 강조합니다:

  • 아키텍처: 35B 총계, 3B 활성 베이스라인에서 시작했습니다. 전문가 구성과 폭을 탐색하여 40B 총계와 2.5B 활성에 도달했습니다.
  • 양자화: 일반적인 관행에 반해 출력 레이어(lm_head)를 4비트로 양자화했습니다. 16비트 모델을 교사로 사용하는 오프라인 증류 단계가 정확도를 회복했습니다. 이를 통해 양자화 인식 훈련 베이스라인 대비 훈련 단계가 거의 절반으로 줄었습니다. NVFP4 모델은 16비트 모델과 0.7점 이내의 차이를 보입니다.
  • 커널: 저비트 프로젝션, MoE 연산, 어텐션 및 프롬프트 처리를 위한 특화 커널을 작성했습니다. M4 및 M5 칩에서는 Metal 메가커널이 전체 디코드 순전파를 융합합니다.

Flint는 코딩 벤치마크에서 어떤 성과를 보이나요?

아래의 모든 점수는 Recursive가 자체 보고한 것입니다. 샘플링은 temperature 1.0, top-p 0.95, top-k 20을 사용했습니다.

벤치마크Flint BF16Flint NVFP4
Terminal-Bench 2.154.9%53.7%
SWE-bench Pro v289.7%88.5%
SWE-bench Verified74.2%74.1%
LiveCodeBench v680.3%80.8%
IFBench89.2%88.1%
IFEval95.1%94.6%

Terminal-Bench는 Terminus 2 하네스를 사용했습니다. 웹 검색을 통해 찾은 솔루션은 실패로 처리되었습니다. SWE-bench 실행은 인터넷 접속 없이 mini-swe-agent를 사용했습니다. 에이전트 점수는 최소 5회 시도에 대한 pass@1 평균입니다.

Recursive의 차트에서 Qwen3.6은 SWE-bench Verified에서 73.4%를 기록했습니다. Dense 모델 Qwen 3.8은 Terminal-Bench 2.1에서 73.0%를 기록하여 Flint를 크게 앞섭니다.

Recursive의 자체 비교 차트(점수는 %, †는 Recursive가 측정, 그 외는 개발사 보고):

모델Terminal-Bench 2.1SWE-bench Pro v2†SWE-bench VerifiedLiveCodeBench v6IFBenchIFEval
Flint BF1654.989.774.280.389.295.1
Flint NVFP453.788.574.180.888.194.6
Qwen 3.5 (MoE)38.768.669.274.670.291.9
Qwen 3.6 (MoE)44.973.873.480.467.989.6
Laguna XS 2.1 (MoE)24.7†38.670.949.5†34.4†73.7†
Qwen 3.8 (dense)73.094.975.6†90.379.594.6†
Muse Glimmer (dense)51.786.076.063.5†77.094.7†
Gemma 4 (dense)43.461.766.680.076.094.6

Flint는 Qwen3.6, Laguna XS 2.1 및 Gemma 4와 어떻게 비교될까요?

아래 경쟁 모델 수치는 Recursive의 차트가 아니라 각 개발사의 모델 카드에서 가져온 것입니다.

항목Recursive FlintQwen3.6-35B-A3BLaguna XS 2.1Gemma 4 31B
개발사RecursiveQwen (Alibaba)PoolsideGoogle DeepMind
전체 파라미터39.8B35B33B30.7B
활성 파라미터~2.5B3B3B30.7B (dense)
컨텍스트262,144 (블로그: 최대 512k)262,144 네이티브, 최대 1,010,000262,144256K
모달리티텍스트텍스트 + 이미지텍스트텍스트 + 이미지
라이선스Apache 2.0Apache 2.0OpenMDW-1.1Apache 2.0
로컬 하드웨어48 GB Mac 또는 GPU공개되지 않음36 GB RAM을 갖춘 Mac소비자용 GPU, 워크스테이션
SWE-bench Verified74.2%73.4%70.9%공개되지 않음
Terminal-Bench54.9% (v2.1)51.5% (v2.0)37.5% (v2.0)공개되지 않음
LiveCodeBench v680.3%80.4%공개되지 않음80.0%
SWE-bench Pro89.7% (v2)49.5% (공개)47.6% (공개)공개되지 않음

Flint은 얼마나 빠르며, 어떤 하드웨어가 필요한가?

Recursive는 M4 Pro MacBook Pro에서 초당 125토큰 이상을 보고하고 있습니다. 64 GB NVIDIA RTX Spark에서는 초당 150토큰 이상을 보고합니다. 두 수치 모두 짧은 컨텍스트 기준이며, 유사 모델보다 최대 2배 빠릅니다. 또한 Flint가 유사한 코딩 점수를 가진 밀집형 25-40B 모델보다 5배 이상 빠르게 실행된다고 주장합니다.

로컬 옵션은 3가지입니다:

  • Apple Silicon: Flint INT4 MLX 가중치는 약 22.6 GB를 차지합니다. 이 rec engine 은 48 GB 메모리를 갖춘 M4 Pro, M5 Pro 또는 M5 Max가 필요합니다. M4 Pro에서 llama.cpp 대비 1.4배에서 2.6배의 처리량을 보고합니다.
  • NVIDIA: 이 NVFP4 GGUF 파일은 22.9 GB입니다. Recursive는 최소 48 GB의 GPU 메모리를 권장합니다.
  • 서버: 80 GB BF16 체크포인트는 레플리카당 B300 또는 H200 GPU 1개가 필요합니다.

Flint은 llama.cpp, Ollama, Unsloth, LM Studio, vLLM 및 SGLang에서도 작동합니다.

핵심 요약

  • Flint는 활성 파라미터가 2.5B에 불과한 40B MoE 코딩 모델입니다.
  • SWE-bench Verified에서 74.2%, Terminal-Bench 2.1에서 54.9%를 기록했습니다.
  • 4비트 가중치는 48 GB Mac 또는 GPU에서 약 23 GB로 실행됩니다.
  • Recursive의 Eureka Machine이 아키텍처, 양자화 및 커널 설계에 도움을 주었습니다.
  • SWE-bench Pro v2 점수는 Recursive 측정 방식이며 공개된 SWE-Bench Pro와 비교할 수 없습니다.


다음을 확인해 보세요: 기술 세부 사항, 모델 가중치 그리고 GitHub의 rec 엔진. 모든 크레딧은 이 프로젝트의 연구자에게 돌아갑니다. 또한 저희를 Twitter 에서 팔로우하고 150k+ML SubReddit 에 참여하고 our Newsletter을 구독하는 것도 잊지 마세요. 잠깐! 텔레그램을 사용하시나요? 이제 텔레그램에서도 저희와 함께하실 수 있습니다.

이 글 Recursive, 활성 파라미터 2.5B를 갖춘 에이전트용 오픈 웨이트 40B MoE 로컬 코딩 모델 Flint 출시 은 다음에서 처음 게시되었습니다: MarkTechPost.

원문 출처

MarkTechPost

내용 안내

원문 발행 및 권리는 출처에 있습니다.

기계 번역 · 원문을 참고하세요