MarkTechPost出典公開日

Recursive、アクティブパラメータ2.5Bのオープンウェイト40B MoEローカルコーディングモデル「Flint」をエージェント向けに公開

Recursive Superintelligenceは Flintである最初のモデルを公開しました。Recursive Flintローカルコーディングモデルは、総パラメータ40B・アクティブパラメータ2.5Bのmixture-of-experts(MoE)モデルです。

Recursive Superintelligenceは Flintである最初のモデルを公開しました。Recursive Flintローカルコーディングモデルは、総パラメータ40B・アクティブパラメータ2.5Bのmixture-of-experts(MoE)モデルです。Recursiveチームは、自動研究システムであるEureka Machineがスタックのほぼすべての部分の構築に貢献したと述べています。ウェイトは Hugging Face でApache 2.0ライセンスの下で公開されています。

TL;DR

  • サイズ: 合計39.8B、トークンあたり約2.5Bがアクティブ。コンテキスト:モデルカードには262,144トークンと記載、ブログでは最大512kと紹介。
  • 動作環境: 48 GBのApple Silicon Mac(M4 Pro、M5 Pro、M5 Max)または48 GBのNVIDIA GPU。4ビットのウェイトは約23 GB。
  • パフォーマンス: 50B未満のMoEモデルの中では、エージェント型コーディングにおいてRecursiveのチャートで首位。最強のdenseモデルには及ばない。
  • 最高: IFEval 95.1%。SWE-bench Verified 74.2%。
  • 最低: Terminal-Bench 2.1で54.9%、denseのQwen 3.8は73.0%。

Recursive Flintとは?

Flintは、コーディングエージェント向けのdecoder-only MoE Transformerです。この モデル はコードベースを調査し、バグを修正し、機能を実装し、テストを書きます。テキストのみで、推論とOpenAI互換のツール呼び出しをサポートします。

Flintを発表します。これは @Recursive_SIの最初のモデルであり、当社の自動研究システム「Eureka Machine」によって構築された高速なローカルコーディングモデルです。

• 最高クラスの高速ローカルコーディング
• 同等モデルの最大2倍の速さ:MacBook Proで毎秒125トークン以上、RTX Sparkで150以上
• 構成要素は… pic.twitter.com/ufg2xScSGw

— Richard Socher (@RichardSocher) 2026年10月21日

Flintのアーキテクチャはどのように機能するのですか?

Flintは49層で構成されています: dense層が2層、その後にMoE層が47層あります。各MoE層には256個のルーティング专家(エキスパート)があります。ルーターはトークンごとに6個を選択し、さらに常にアクティブな共有エキスパートが1個あります。

Attentionは2種類を混在させています。35層は513トークンのスライディングウィンドウを使用します。14層は位置エンコーディングなしのフルAttentionを使用します。クエリヘッドは32、キー/バリューヘッドは4です。

2.5Bのアクティブ数値には出力ヘッドが含まれます。アクティブな本体のみでは約2.2Bパラメータです。

エウレカ・マシンはどのようにFlintを構築したのか?

その Eureka Machine(エウレカ・マシン) アイデアを提案し、実装し、テストし、次に何を試すかを選びます。

Recursiveは3つの貢献をハイライトしています:

  • アーキテクチャ: 35B総パラメータ・3Bアクティブというベースラインから開始しました。専門家構成と幅を探索し、最終的に総パラメータ40B、アクティブ2.5Bに到達しました。
  • 量子化: 一般的な手法に反して、出力層(lm_head)を4ビットに量子化しました。16ビットモデルを教師とするオフライン蒸留ステージによって精度を回復しました。これにより、量子化対応トレーニングのベースラインと比べてトレーニングステップ数がほぼ半減しました。NVFP4モデルは16ビットモデルと0.7ポイント以内の差でスコアを維持しています。
  • カーネル: 低ビット投影、MoE演算、アテンション、プロンプト処理向けに専用カーネルを作成しました。M4およびM5チップでは、Metalメガカーネルがデコードのフォワードパス全体を融合します。

Flintはコーディングベンチマークでどのような性能を示していますか?

以下のスコアはすべてRecursiveによる自己申告のものです。サンプリングにはtemperature 1.0、top-p 0.95、top-k 20を使用しました。

ベンチマークFlint BF16Flint NVFP4
Terminal-Bench 2.154.9%53.7%
SWE-bench Pro v289.7%88.5%
SWE-bench Verified74.2%74.1%
LiveCodeBench v680.3%80.8%
IFBench89.2%88.1%
IFEval95.1%94.6%

Terminal-BenchはTerminus 2ハーネスを使用しました。ウェブ検索によって見つかった解は失敗としてカウントされました。SWE-benchの実行は、インターネットアクセスなしでmini-swe-agentを使用しました。エージェント型スコアは5回以上の試行におけるpass@1の平均です。

Recursiveのチャートでは、Qwen3.6はSWE-bench Verifiedで73.4%を記録しています。Dense Qwen 3.8はTerminal-Bench 2.1で73.0%を記録し、Flintを大きく上回っています。

Recursive自身の比較チャート(スコアは%、†はRecursiveによる測定、その他は開発者報告値):

モデルTerminal-Bench 2.1SWE-bench Pro v2†SWE-bench VerifiedLiveCodeBench v6IFBenchIFEval
Flint BF1654.989.774.280.389.295.1
Flint NVFP453.788.574.180.888.194.6
Qwen 3.5 (MoE)38.768.669.274.670.291.9
Qwen 3.6 (MoE)44.973.873.480.467.989.6
Laguna XS 2.1 (MoE)24.7†38.670.949.5†34.4†73.7†
Qwen 3.8 (dense)73.094.975.6†90.379.594.6†
Muse Glimmer (dense)51.786.076.063.5†77.094.7†
Gemma 4 (dense)43.461.766.680.076.094.6

FlintはQwen3.6、Laguna XS 2.1、Gemma 4と比べてどうですか?

以下の競合モデルの数値は、Recursiveのチャートではなく、各開発者自身のモデルカードによるものです。

特徴Recursive FlintQwen3.6-35B-A3BLaguna XS 2.1Gemma 4 31B
開発者RecursiveQwen (Alibaba)PoolsideGoogle DeepMind
Total params(総パラメータ数)39.8B35B33B30.7B
Active params(アクティブパラメータ数)約2.5B3B3B30.7B(dense)
Context(コンテキスト)262,144(ブログ:最大512k)262,144 ネイティブ、最大 1,010,000262,144256K
Modality(モダリティ)テキストテキスト+画像テキストテキスト+画像
License(ライセンス)Apache 2.0Apache 2.0OpenMDW-1.1Apache 2.0
Local hardware(ローカルハードウェア)48 GB のMacまたはGPU非公開RAM 36 GB のMacコンシューマーGPU、ワークステーション
SWE-bench Verified74.2%73.4%70.9%非公開
Terminal-Bench54.9%(v2.1)51.5%(v2.0)37.5% (v2.0)非公開
LiveCodeBench v680.3%80.4%非公開80.0%
SWE-bench Pro89.7% (v2)49.5%(一般)47.6%(公的)非公開

Flintの速度はどのくらいで、どのようなハードウェアが必要ですか?

RecursiveはM4 Pro搭載のMacBook Proで毎秒125トークン超を報告している。64 GBのNVIDIA RTX Sparkでは毎秒150トークン超を報告。いずれも短いコンテキスト時の数値で、同等のモデルより最大2倍高速である。さらに、Flintは類似のコーディングスコアを持つ25〜40Bの密な(dense)モデルより5倍以上高速に動作すると主張している。

地元の選択肢は3つあります:

  • Apple Silicon: Flint INT4 MLXの重みは約22.6 GBです。 推薦エンジン M4 Pro、M5 Pro、または48 GBメモリ搭載のM5 Maxが必要です。M4 Pro上でllama.cpp比1.4〜2.6倍のスループットを報告しています。
  • NVIDIA: この NVFP4 GGUF ファイルは 22.9 GB です。Recursive は少なくとも 48 GB のGPUメモリを推奨しています。
  • サーバー: 80 GBのBF16チェックポイントには、レプリカごとに1基のB300またはH200 GPUが必要です。

Flintはllama.cpp、Ollama、Unsloth、LM Studio、vLLM、SGLangとも連携して動作します。

重要なポイント

  • Flintは、アクティブパラメータがわずか2.5Bの40B MoEコーディングモデルです。
  • SWE-bench Verifiedで74.2%、Terminal-Bench 2.1で54.9%のスコアを記録しています。
  • 4ビットの重みは、48 GBのMacやGPU上で約23 GBで動作します。
  • RecursiveのEureka Machineが、アーキテクチャ、量子化、カーネルの設計を支援しました。
  • SWE-bench Pro v2 のスコアは Recursive 測定によるものであり、公開されている SWE-Bench Pro とは比較できません。


以下をチェックしてみてください: 技術的詳細, モデルの重み および GitHub上の推薦エンジン。本プロジェクトの研究者に全ての功績が帰属します。また、ぜひ私たちをフォローしてください: Twitter そして、私たちの 150k以上のML SubReddit および「Subscribe to」への 当社のニュースレターちょっと待って!あなたはTelegram(テレグラム)をやっていますか? Telegramでもご参加いただけるようになりました。

投稿 Recursiveが、アクティブパラメータ2.5Bのエージェント向けオープンウェイト40B MoEローカルコーディングモデル「Flint」をリリース 最初に掲載されたのは MarkTechPost.

原文の出典

MarkTechPost

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください