MarkTechPost来源发布时间

Recursive 发布 Flint:一款面向智能体的开放权重 40B MoE 本地编程模型,激活参数为 2.5B

Recursive Superintelligence 已发布 Flint,这是其首个模型。Recursive Flint 本地编程模型是一款混合专家模型,总参数为 40B,激活参数为 2.5B。

Recursive Superintelligence 已发布 Flint,这是其首个模型。Recursive Flint 本地编程模型是一款混合专家模型,总参数为 40B,激活参数为 2.5B。Recursive 团队表示,其 Eureka Machine——一个自动化研究系统——帮助构建了技术栈的几乎每一部分。模型权重已发布在 Hugging Face 上,采用 Apache 2.0 许可证。

TL;DR

  • 规模: 总参数 39.8B,每个 token 激活约 2.5B。上下文:模型卡上记录为 262,144 个 token;博客称最高可达 512k。
  • 运行环境: 48 GB Apple Silicon Mac(M4 Pro、M5 Pro、M5 Max)或 48 GB NVIDIA GPU。4-bit 权重约占用 23 GB。
  • 性能: 在 Recursive 的图表中,在 50B 以下的 MoE 模型中位居智能体编程榜首。落后于最强的稠密模型。
  • 最佳: IFEval 95.1%。SWE-bench Verified 74.2%。
  • 最差: Terminal-Bench 2.1 得分为 54.9%,而稠密模型 Qwen 3.8 为 73.0%。

什么是 Recursive Flint?

Flint 是一款面向编程智能体的 decoder-only MoE Transformer。该 模型 可以调查代码库、修复 bug、实现功能并编写测试。它是纯文本模型,支持推理和 OpenAI 兼容的工具调用。

推出 Flint, @Recursive_SI的首个模型:一款由我们的自动化研究系统 Eureka Machine 构建的快速本地编程模型。

• 同类最佳的快速本地编程能力
• 比同类模型最高快 2 倍:在 MacBook Pro 上每秒超过 125 个 token,在 RTX Spark 上超过 150 个
• 由……构建 pic.twitter.com/ufg2xScSGw

— Richard Socher (@RichardSocher) 2026年10月21日

Flint 的架构是如何工作的?

Flint 有 49 层:2 个稠密层,然后是 47 个 MoE 层。每个 MoE 层有 256 个路由专家。路由器为每个 token 选择 6 个专家,外加 1 个始终激活的共享专家。

注意力混合了 2 种类型。35 层使用 513-token 滑动窗口。14 层使用不带位置编码的全注意力。共有 32 个查询头和 4 个键/值头。

2.5B 的激活参数数包含输出头。仅激活的主体部分约为 2.2B 参数。

Eureka Machine 是如何构建 Flint 的?

该 Eureka Machine 提出想法、实现它们、测试它们,并选择下一步要尝试的内容。

Recursive 重点列出了 3 项贡献:

  • 架构: 它从一个总计 35B、激活 3B 的基线开始。它搜索了专家配置和宽度,最终确定总计 40B、激活 2.5B。
  • 量化: 它将输出层(lm_head)量化为 4 比特,这与常见做法相反。一个以 16 比特模型作为教师的离线蒸馏阶段恢复了精度。与量化感知训练基线相比,这几乎将训练步数减半。NVFP4 模型的得分与 16 比特模型相差不到 0.7 分。
  • 内核: 它为低比特投影、MoE 运算、注意力和提示处理编写了专用内核。在 M4 和 M5 芯片上,一个 Metal megakernel 融合了整个解码前向传播。

Flint 在编程基准测试中的表现如何?

以下所有分数均由 Recursive 自行报告。采样使用 temperature 1.0、top-p 0.95 和 top-k 20。

基准测试Flint BF16Flint NVFP4
Terminal-Bench 2.154.9%53.7%
SWE-bench Pro v289.7%88.5%
SWE-bench Verified74.2%74.1%
LiveCodeBench v680.3%80.8%
IFBench89.2%88.1%
IFEval95.1%94.6%

Terminal-Bench 使用了 Terminus 2 harness。通过网页检索找到的解决方案计为失败。SWE-bench 运行使用 mini-swe-agent 且无互联网访问。Agentic 分数为至少 5 次尝试的平均 pass@1。

在 Recursive 的图表中,Qwen3.6 在 SWE-bench Verified 上得分为 73.4%。稠密模型 Qwen 3.8 在 Terminal-Bench 2.1 上得分为 73.0%,远高于 Flint。

Recursive 自己的对比图表(分数以 % 计,† 由 Recursive 测量,其他为开发者报告):

模型Terminal-Bench 2.1SWE-bench Pro v2†SWE-bench VerifiedLiveCodeBench v6IFBenchIFEval
Flint BF1654.989.774.280.389.295.1
Flint NVFP453.788.574.180.888.194.6
Qwen 3.5 (MoE)38.768.669.274.670.291.9
Qwen 3.6 (MoE)44.973.873.480.467.989.6
Laguna XS 2.1 (MoE)24.7†38.670.949.5†34.4†73.7†
Qwen 3.8(稠密)73.094.975.6†90.379.594.6†
Muse Glimmer(稠密)51.786.076.063.5†77.094.7†
Gemma 4(稠密)43.461.766.680.076.094.6

Flint 与 Qwen3.6、Laguna XS 2.1 和 Gemma 4 相比如何?

下方竞争对手的数据来自各开发者自己的模型卡,而非 Recursive 的图表。

特性Recursive FlintQwen3.6-35B-A3BLaguna XS 2.1Gemma 4 31B
开发者RecursiveQwen(阿里巴巴)PoolsideGoogle DeepMind
总参数量39.8B35B33B30.7B
活跃参数量约2.5B3B3B30.7B(稠密)
上下文262,144(博客:最高 512k)原生 262,144,最高 1,010,000262,144256K
模态文本文本 + 图像文本文本 + 图像
许可证Apache 2.0Apache 2.0OpenMDW-1.1Apache 2.0
本地硬件48 GB Mac 或 GPU未披露配备 36 GB 内存的 Mac消费级 GPU、工作站
SWE-bench Verified74.2%73.4%70.9%未披露
Terminal-Bench54.9%(v2.1)51.5%(v2.0)37.5%(v2.0)未披露
LiveCodeBench v680.3%80.4%未披露80.0%
SWE-bench Pro89.7%(v2)49.5%(公众)47.6%(公立)未披露

Flint的速度有多快,它需要什么硬件?

Recursive 在 M4 Pro MacBook Pro 上报告的运行速度超过每秒 125 个 token。在 64 GB NVIDIA RTX Spark 上报告的速度超过每秒 150 个 token。两者都是短上下文数据,比同类模型最快可达 2 倍。该公司还声称,在编码得分相近的情况下,Flint 的运行速度比 25-40B 的稠密模型快 5 倍以上。

有3个本地选项:

  • Apple Silicon: Flint INT4 MLX 权重大约占 22.6 GB。 推荐引擎 需要配备 48 GB 内存的 M4 Pro、M5 Pro 或 M5 Max。据报告,其吞吐量在 M4 Pro 上达到 llama.cpp 的 1.4 至 2.6 倍。
  • NVIDIA: 该 NVFP4 GGUF 文件大小为 22.9 GB。Recursive 建议至少配备 48 GB 的 GPU 显存。
  • 服务器: 80 GB BF16 检查点每个副本需要 1 块 B300 或 H200 GPU。

Flint 还可与 llama.cpp、Ollama、Unsloth、LM Studio、vLLM 和 SGLang 配合使用。

要点总结

  • Flint 是一个 40B MoE 编码模型,仅有 2.5B 激活参数。
  • 它在SWE-bench Verified上得分74.2%,在Terminal-Bench 2.1上得分54.9%。
  • 4比特权重在48 GB的Mac或GPU上运行大约占用23 GB。
  • Recursive的Eureka机器协助设计了该架构、量化和内核。
  • SWE-bench Pro v2 分数由 Recursive 测量,与公开的 SWE-Bench Pro 不具可比性。


请查看 技术细节, 模型权重 以及 GitHub 上的推荐引擎。所有功劳归于该项目的研发人员。另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ML SubReddit 并订阅 我们的 Newsletter。等等!你用 Telegram 吗? 现在你也可以在 Telegram 上加入我们。

本文 Recursive 发布 Flint:面向智能体的开放权重 40B MoE 本地编码模型,活跃参数为 2.5B 首发于 MarkTechPost.

原始出处

MarkTechPost

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准