MarkTechPostVeröffentlichung der Quelle

Recursive veröffentlicht Flint, ein Open-Weight 40B MoE lokales Coding-Modell für Agents mit 2.5B aktiven Parametern

Recursive Superintelligence hat Flintveröffentlicht, sein erstes Modell. Das lokale Coding-Modell Recursive Flint ist ein Mixture-of-Experts-Modell (MoE) mit 40B Gesamt- und 2.5B aktiven Parametern.

Recursive Superintelligence hat Flintveröffentlicht, sein erstes Modell. Das lokale Coding-Modell Recursive Flint ist ein Mixture-of-Experts-Modell (MoE) mit 40B Gesamt- und 2.5B aktiven Parametern. Das Recursive-Team gibt an, dass seine Eureka Machine, ein automatisiertes Forschungssystem, bei fast jedem Teil des Stacks geholfen hat. Die Gewichte stehen auf Hugging Face unter Apache 2.0 zur Verfügung.

TL;DR

  • Größe: 39.8B insgesamt, etwa 2.5B aktiv pro Token. Kontext: 262,144 Token laut Model Card dokumentiert; der Blog nennt bis zu 512k.
  • Läuft auf: 48 GB Apple-Silicon-Macs (M4 Pro, M5 Pro, M5 Max) oder 48 GB NVIDIA-GPUs. 4-Bit-Gewichte benötigen etwa 23 GB.
  • Leistung: Führt in Recursives Diagramm bei MoE-Modellen unter 50B im agentic coding. Liegt hinter den stärksten dichten Modellen.
  • Beste: IFEval 95,1%. SWE-bench Verified 74,2%.
  • Schlechteste: Terminal-Bench 2.1 mit 54,9%, gegenüber 73,0% beim dichten Qwen 3.8.

Was ist Recursive Flint?

Flint ist ein decoder-only MoE Transformer für Coding-Agents. Das Modell untersucht Codebasen, behebt Bugs, implementiert Features und schreibt Tests. Es ist rein textbasiert und unterstützt Reasoning sowie OpenAI-kompatible Tool-Aufrufe.

Wir stellen Flint vor, @Recursive_SIs erstes Modell: ein schnelles lokales Coding-Modell, entwickelt mit unserem automatisierten Forschungssystem, der Eureka Machine.

• Best-in-class schnelles lokales Coding
• Bis zu 2x schneller als vergleichbare Modelle: 125+ Token/Sek. auf einem MacBook Pro, 150+ auf RTX Spark
• Erstellt aus… pic.twitter.com/ufg2xScSGw

— Richard Socher (@RichardSocher) October 21, 2026

Wie funktioniert Flints Architektur?

Flint hat 49 Schichten: 2 dichte Schichten, dann 47 MoE-Schichten. Jede MoE-Schicht hat 256 geroutete Experten. Ein Router wählt 6 pro Token aus, plus 1 stets aktiven geteilten Experten.

Die Aufmerksamkeit mischt 2 Typen. 35 Schichten verwenden ein gleitendes Fenster von 513 Token. 14 Schichten verwenden volle Aufmerksamkeit ohne Positionskodierung. Es gibt 32 Query-Köpfe und 4 Key/Value-Köpfe.

Die aktive Zahl von 2.5B enthält den Ausgabekopf. Der aktive Körper allein umfasst etwa 2.2B Parameter.

Wie hat die Eureka Machine Flint gebaut?

Die Eureka Machine schlägt Ideen vor, implementiert sie, testet sie und entscheidet, was als Nächstes ausprobiert wird.

Recursive hebt 3 Beiträge hervor:

  • Architektur: Sie startete von einer Baseline mit 35B Parametern gesamt und 3B aktiv. Sie suchte nach Expertenkonfigurationen und Breiten und landete bei 40B gesamt und 2.5B aktiv.
  • Quantisierung: Sie quantisierte die Ausgabeschicht (lm_head) auf 4 Bit, entgegen der gängigen Praxis. Eine Offline-Destillationsphase, bei der das 16-Bit-Modell als Lehrer diente, stellte die Genauigkeit wieder her. Dies halbierte die Trainings Schritte fast gegenüber einer quantisierungsbewussten Trainings-Baseline. Das NVFP4-Modell liegt innerhalb von 0.7 Punkten des 16-Bit-Modells.
  • Kernels: Sie schrieb spezialisierte Kernels für Low-Bit-Projektionen, MoE-Operationen, Attention und Prompt-Verarbeitung. Auf M4- und M5-Chips verschmilzt ein Metal-Megakernel den gesamten Decode-Forward-Pass.

Wie schneidet Flint bei Coding-Benchmarks ab?

Alle folgenden Bewertungen wurden von Recursive selbst berichtet. Für das Sampling wurden Temperatur 1.0, top-p 0.95 und top-k 20 verwendet.

BenchmarkFlint BF16Flint NVFP4
Terminal-Bench 2.154.9%53.7%
SWE-bench Pro v289.7%88.5%
SWE-bench Verified74.2%74.1%
LiveCodeBench v680.3%80.8%
IFBench89.2%88.1%
IFEval95.1%94.6%

Terminal-Bench nutzte das Terminus-2-Harness. Über Webretrieval gefundene Lösungen zählten als Fehlschläge. SWE-bench-Läufe verwendeten mini-swe-agent ohne Internetzugang. Agentic-Scores ergeben den Durchschnitt von pass@1 über mindestens 5 Versuche.

In Recursives Diagramm erreicht Qwen3.6 73.4 % auf SWE-bench Verified. Das dense Modell Qwen 3.8 erzielt 73.0 % auf Terminal-Bench 2.1, deutlich über Flint.

Recursives eigenes Vergleichsdiagramm (Werte in %, † von Recursive gemessen, übrige vom Entwickler angegeben):

ModellTerminal-Bench 2.1SWE-bench Pro v2†SWE-bench VerifiedLiveCodeBench v6IFBenchIFEval
Flint BF1654.989.774.280.389.295.1
Flint NVFP453.788.574.180.888.194.6
Qwen 3.5 (MoE)38.768.669.274.670.291.9
Qwen 3.6 (MoE)44.973.873.480.467.989.6
Laguna XS 2.1 (MoE)24.7†38.670.949.5†34.4†73.7†
Qwen 3.8 (dense)73.094.975.6†90.379.594.6†
Muse Glimmer (dense)51.786.076.063.5†77.094.7†
Gemma 4 (dense)43.461.766.680.076.094.6

Wie schneidet Flint im Vergleich zu Qwen3.6, Laguna XS 2.1 und Gemma 4 ab?

Die folgenden Wettbewerberzahlen stammen aus den jeweiligen Modellkarten der Entwickler, nicht aus Recursives Diagramm.

MerkmalRecursive FlintQwen3.6-35B-A3BLaguna XS 2.1Gemma 4 31B
EntwicklerRecursiveQwen (Alibaba)PoolsideGoogle DeepMind
Parameter gesamt39.8B35B33B30.7B
Aktive Parameter~2.5B3B3B30.7B (dicht)
Kontext262,144 (Blog: bis zu 512k)262,144 nativ, bis zu 1,010,000262,144256K
ModalitätTextText + BildTextText + Bild
LizenzApache 2.0Apache 2.0OpenMDW-1.1Apache 2.0
Lokale Hardware48-GB-Mac oder GPUNicht offengelegtMac mit 36 GB RAMConsumer-GPUs, Workstations
SWE-bench Verified74.2%73.4%70.9%Nicht offengelegt
Terminal-Bench54,9 % (v2.1)51,5 % (v2.0)37,5 % (v2.0)Nicht offengelegt
LiveCodeBench v680.3%80.4%Nicht offengelegt80.0%
SWE-bench Pro89,7 % (v2)49,5 % (öffentlich)47,6 % (öffentlich)Nicht offengelegt

Wie schnell ist Flint, und welche Hardware braucht er?

Recursive berichtet von mehr als 125 Tokens pro Sekunde auf einem M4 Pro MacBook Pro. Es berichtet von mehr als 150 Tokens pro Sekunde auf einer NVIDIA RTX Spark mit 64 GB. Beides sind Kurzkontext-Werte, bis zu 2x schneller als vergleichbare Modelle. Es wird außerdem behauptet, dass Flint mehr als 5x schneller läuft als dichte 25-40B-Modelle mit ähnlichen Coding-Scores.

Es gibt 3 lokale Optionen:

  • Apple Silicon: Flint INT4 MLX-Gewichte benötigen etwa 22,6 GB. Die rec engine benötigt einen M4 Pro, M5 Pro oder M5 Max mit 48 GB Speicher. Es wird 1,4- bis 2,6-facher Durchsatz von llama.cpp auf einem M4 Pro berichtet.
  • NVIDIA: Die NVFP4 GGUF -Datei ist 22,9 GB groß. Recursive empfiehlt mindestens 48 GB GPU-Speicher.
  • Server: Der 80-GB-BF16-Checkpoint benötigt 1 B300- oder H200-GPU pro Replika.

Flint funktioniert auch mit llama.cpp, Ollama, Unsloth, LM Studio, vLLM und SGLang.

Wichtige Erkenntnisse

  • Flint ist ein 40B-MoE-Coding-Modell mit nur 2,5B aktiven Parametern.
  • Es erzielt 74,2 % auf SWE-bench Verified und 54,9 % auf Terminal-Bench 2.1.
  • 4-Bit-Gewichte laufen mit etwa 23 GB auf einem 48-GB-Mac oder einer GPU.
  • Recursives Eureka Machine half bei der Entwicklung der Architektur, Quantisierung und Kernels.
  • Die SWE-bench Pro v2-Werte sind Recursive-gemessen und nicht mit öffentlichem SWE-Bench Pro vergleichbar.


Schauen Sie sich die technischen Details, die Modellgewichte und die Rec-Engine auf GitHuban. Allen Dank verdient der Forscher dieses Projekts. Folgen Sie uns außerdem gerne auf Twitter und vergessen Sie nicht, unserem 150k+ML SubReddit beizutreten und unseren Newsletterzu abonnieren. Moment! Sind Sie auf Telegram? jetzt können Sie uns auch auf Telegram beitreten.

Der Beitrag Recursive veröffentlicht Flint, ein Open-Weight-40B-MoE-Modell für lokales Programmieren mit 2.5B aktiven Parametern für Agenten erschien zuerst auf MarkTechPost.

Originalquelle

MarkTechPost

Hinweise zum Inhalt

Originalveröffentlichung und Rechte liegen bei der Quelle.

Maschinelle Übersetzung · Original beachten