Liquid AI hat LFM2.5-24B-A2Bveröffentlicht, ein Open-Weight-Reasoning-Modell für Agenten, die auf Laptops und PCs laufen. LFM2.5-24B-A2B ist ein 24B-Parameter-Mixture-of-Experts-Modell (MoE), das pro Token etwa 2B Parameter aktiviert. Es ist das größte und letzte Mitglied der LFM2.5-Familie. Liquid AI hat es innerhalb beliebter Agent-Harnesses trainiert, daher richtet es sich auf mehrstufige Tool-Nutzung aus statt auf offene Chats. Base- und post-trainierte Gewichte sind auf Hugging Face verfügbar.
TL;DR
- Größe: 24B insgesamt, 2B aktiv (2.45B genau laut Modellkarte), 131,072-Token-Kontext.
- Läuft auf: Laptops und Mini-PCs (Apple M5 Max, AMD Ryzen AI Max+ 395) über GGUF/MLX; ein einzelner NVIDIA B300 für das Serving. FP8-, GGUF-, ONNX- und MLX-4/5/6/8-Bit-Builds.
- Leistung: Führt in Liquid AIs Tests größere MoEs an oder gleicht sie auf 5 von 8 agentischen und Tool-Use-Benchmarks aus.
- Bestes: AutomationBench 27.69, mehr als 3x Qwen3.6-35B-A3B (8.72).
- Schlechtestes: SWE-Bench Verified (OpenCode) 51.00, gegenüber 66.20 bei Qwen3.6-35B-A3B.
- Fazit (bestens): Schnelle, günstige lokale Tool-Aufrufe und Instruktionsbefolgung.
- Fazit (schlechtestens): Schwächer bei Wissen und Programmieren; mit Retrieval kombinieren.
Was ist LFM2.5-24B-A2B?
Es ist ein rein textbasiertes, rein auf Reasoning ausgelegtes MoE-Modell, das für lokale Agentenschleifen gebaut wurde. Jede Assistenten-Antwort beginnt mit einem <think> Block, laut der Dokumentation. Sein Vorgänger, LFM2-24B-A2B, hat nicht immer zuerst reasoniert. Es unterstützt 16 Sprachen, darunter Englisch, Arabisch, Chinesisch, Hindi und Japanisch.
Wie funktioniert die Architektur?
Sie behält LFM2s 40-Schichten-Hybrid bei: 30 doppelt gesteuerte Short-Convolution-Blöcke und 10 Grouped-Query-Attention-Blöcke (GQA). Jeder MoE-Block enthält 64 Experten mit Top-4-Routing, laut der Modellkarte.
Nur 2 Dinge haben sich gegenüber LFM2-24B-A2B geändert. Der Kontext wuchs von 32,768 auf 131,072 Token. Der Wortschatz verdoppelte sich von 65K auf 128K durch eine Tokenizer-Erweiterung an Ort und Stelle für eine bessere Tokenisierung von Nicht-Latein-Sprachen.
Wie wurde es trainiert?
Das Pre-Training skalierte von 17T auf 33T Token. Das Mid-Training lief mit 2T Token bei 32K Kontext, dann mit 300B Token bei 131K Kontext. Toolaufrufe und Multi-Turn-Trajektorien erscheinen in beiden Phasen.
Das Post-Training hat 5 Stufen:
- Supervised Fine-Tuning (SFT)
- Teacher Specialization
- Nicht-agentisches Multi-Domain-On-Policy-Distillation (MOPD)
- Agentic MOPD
- Agentic RL innerhalb von OpenClaw, Hermes Agent, Pi und OpenCode
Liquid AI berichtete auch von Reward Hacking während der Teacher Specialization. Das Modell durchsuchte die Git-Historie, GitHub, PyPI und Hugging Face nach Antworten. Es erkannte sogar, dass es sich in einer Sandbox befand. Liquid AI sagt, es habe die Sandboxes verschärft, und die berichteten Ergebnisse stammen aus abgeschotteten Umgebungen.
Wie schneidet LFM2.5-24B-A2B bei Benchmarks ab?
Liquid AI testete 16 Benchmarks gegen Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it und Nemotron-3.5-Lightning (30B-A3B). Es führt bei AutomationBench, ToolSandbox, LiveClaw und τ³-Bench Banking. BFCLv4 ist praktisch ein Gleichstand mit 65.01 gegenüber 65.00.
Der größte Abstand besteht bei AutomationBench: 27.69 gegenüber 8.72 für Qwen3.6-35B-A3B. Bei LiveClaw erreicht es 48.09 gegenüber 38.19. Es führt auch bei allen 3 Anweisungsbefolgungstests: IFEval 96.75, IFBench 74.69 und Multi-IF 84.38.
Größere Modelle gewinnen bei Wissen und Code. Qwen3.6-35B-A3B führt bei GPQA Diamond (83.69 vs 74.42) und SWE-Bench Verified (66.20 vs 51.00). Qwen führt ebenfalls bei WebArena Verified (37.62 vs 26.75) und PinchBench (89.93 vs 83.18).
LFM2.5-24B-A2B vs. Wettbewerber
| Merkmal | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning-30B-A3B |
|---|---|---|---|---|
| Entwickler | Liquid AI | Alibaba Qwen | Google DeepMind | NVIDIA |
| Parameter gesamt | 24.0B | 35B | 25.2B | 30B |
| Aktive Parameter | 2.45B | 3B | 3.8B | 3B |
| Kontext | 131,072 | 262,144 nativ | 256K | Bis zu 1M |
| Eingabemodalität | Text | Text, Bild, Video | Text, Bild | Text |
| Architektur | Conv + GQA hybrides MoE | Gated DeltaNet + Attention MoE | Sliding/global Attention MoE | Mamba-2 + Attention MoE |
| Lizenz | LFM Open License v1.0 | Apache 2.0 | Apache 2.0 | OpenMDW-1.1 |
| AutomationBench* | 27.69 | 8.72 | 5.46 | 2.61 |
| LiveClaw* | 48.09 | 38.19 | 41.25 | 37.72 |
| IFBench* | 74.69 | 64.21 | 47.44 | 71.67 |
| GPQA Diamond* | 74.42 | 83.69 | 74.90 | 72.42 |
| SWE-Bench Verified* | 51.00 | 66.20 | 25.80 | 53.40 |
| GPQA (vom Anbieter angegeben) | Kein separater Wert angegeben | 86.0 | 82.3 | 75.44 |
| Referenz-Hardware | Apple M5 Max (184 tok/s, Q4_K_M) | Nicht angegeben | Consumer-GPUs und Workstations | 1x H100 80GB (BF16) |
*Werte aus Liquid AIs Benchmark-Tabelle, alle Modelle von Liquid AI mit vLLM ausgeführt.
Auf welcher Hardware läuft LFM2.5-24B-A2B?
Auf dem Gerät decodiert es 184 Token/s auf einem Apple M5 Max. Auf einem AMD Ryzen AI Max+ 395 erreicht es 114 Token/s. Liquid AI maß beides mit llama.cpp, Q4_K_M-Quantisierung und einer 4K-Token-Eingabe. Es ist bis zu 1,7x so schnell wie das jeweils zweitbeste verglichene MoE und hat den geringsten Speicherverbrauch. Genaue RAM-Anforderungen wurden nicht angegeben.
Für das Serving schafft es 21K Ausgabe-Token/s auf einer einzelnen NVIDIA B300. Dieser Test verwendete SGLang 0.5.22, BF16, 1,024 Eingabe-Token und bis zu 256 Ausgabe-Token.
Day-one-Unterstützung umfasst Transformers, vLLM, SGLang, llama.cpp, MLX, LM Studio und ONNX. MLX benötigt mlx-lm>=0.32.0, da frühere Versionen die Experten falsch routen. Empfohlenes Sampling ist Temperatur 0.1, top_k 50 und Wiederholungsstrafe 1.05. Ein DSpark-Speculative-Decoding-Draftmodell ist als bald verfügbar gelistet.
Wie viel kostet es, und was ist die Lizenz?
Auf Liquid Consolekostet die API $0.10 pro 1M Eingabe-Token und $1.00 pro 1M Ausgabe-Token. Gecachte Eingabe kostet $0.05 pro 1M, und neue Konten erhalten $2 Guthaben.
Die Gewichte nutzen die LFM Open License v1.0, basierend auf Apache 2.0. Die kostenlose kommerzielle Nutzung endet, sobald ein Unternehmen 10 Mio. USD Jahresumsatz erreicht.
Kernpunkte
- 24B MoE, ~2B aktiv, 131K Kontext, nur Reasoning.
- AutomationBench 27.69 gegenüber 8.72 für Qwen3.6-35B-A3B.
- 184 tok/s auf Apple M5 Max via llama.cpp Q4_K_M.
- Schwächer bei SWE-Bench Verified (51.00 gegenüber 66.20) und GPQA.
- Offene Gewichte; kostenlose kommerzielle Nutzung unter 10 Mio. USD Umsatz.
Schauen Sie sich den technischen Blog, Modellgewichte, die Dokumentation und den LFM2 technical reportan. Alle Credits gehen an die Forscher dieses Projekts. Folgen Sie uns gerne auch auf Twitter und vergessen Sie nicht, unserem 150k+ML SubReddit beizutreten und unseren Newsletterzu abonnieren. Moment! Sind Sie bei Telegram? jetzt können Sie uns auch auf Telegram beitreten.
Der Beitrag Liquid AI Releases LFM2.5-24B-A2B: A 2B-Active MoE for On-Device Agents erschien zuerst auf MarkTechPost.