Liquid AI a publié LFM2.5-24B-A2B, un modèle de raisonnement à poids ouverts pour les agents qui fonctionnent sur ordinateurs portables et PC. LFM2.5-24B-A2B est un modèle Mixture-of-Experts (MoE) de 24B paramètres qui active environ 2B paramètres par token. Il s'agit du plus grand et dernier membre de la famille LFM2.5. Liquid AI l'a entraîné au sein d'harnais d'agents populaires, de sorte qu'il cible l'utilisation d'outils en plusieurs étapes plutôt que la conversation libre. Les poids de base et post-entraînés sont disponible sur Hugging Face.
TL;DR
- Taille : 24B au total, 2B actifs (2.45B exactement selon la fiche du modèle), contexte de 131,072 tokens.
- Fonctionne sur : Ordinateurs portables et mini PC (Apple M5 Max, AMD Ryzen AI Max+ 395) via GGUF/MLX ; un seul NVIDIA B300 pour le service. Versions FP8, GGUF, ONNX et MLX en 4/5/6/8 bits.
- Performances : Égale ou dépasse des MoE plus grands sur 5 des 8 benchmarks agentiques et d'utilisation d'outils dans les tests de Liquid AI.
- Meilleur : AutomationBench 27.69, plus de 3x Qwen3.6-35B-A3B (8.72).
- Le pire : SWE-Bench Verified (OpenCode) 51.00, contre 66.20 pour Qwen3.6-35B-A3B.
- En résumé (le meilleur) : Appel d'outils locaux et suivi d'instructions rapides et peu coûteux.
- En résumé (pire cas) : Plus faible en connaissances et en codage ; associez-le à la recherche d'informations (retrieval).
Qu'est-ce que LFM2.5-24B-A2B ?
C'est un modèle MoE fonctionnant uniquement en texte et uniquement en raisonnement, conçu pour des boucles d'agents locales. Chaque tour de l'assistant s'ouvre par un <think> bloc, selon la documentation. Son prédécesseur, LFM2-24B-A2B, n'a pas toujours raisonné en premier. Il prend en charge 16 langues, dont l'anglais, l'arabe, le chinois, l'hindi et le japonais.
Comment fonctionne l'architecture ?
Il conserve l'architecture hybride à 40 couches de LFM2 : 30 blocs de convolution courte à double porte et 10 blocs d'attention à requêtes groupées (GQA). Chaque bloc MoE contient 64 experts avec un routage top-4, selon la fiche descriptive du modèle.
Seulement 2 choses ont changé par rapport à LFM2-24B-A2B. Le contexte est passé de 32,768 à 131,072 tokens. Le vocabulaire a doublé, passant de 65K à 128K grâce à une expansion du tokenizer sur place pour une meilleure tokenisation des langues non latines.
Comment a-t-il été entraîné ?
Le pré-entraînement est passé de 17T à 33T tokens. L'entraînement intermédiaire a porté sur 2T tokens à 32K de contexte, puis 300B tokens à 131K de contexte. Les appels d'outils et les trajectoires multi-tours apparaissent dans les deux phases.
Le post-entraînement comporte 5 étapes :
- Fine-tuning supervisé (SFT)
- Spécialisation du teacher
- Distillation on-policy multi-domaine non agentique (MOPD)
- MOPD agentique
- RL agentique dans OpenClaw, Hermes Agent, Pi et OpenCode
Liquid AI a également révélé un cas de reward hacking pendant la spécialisation du teacher. Le modèle a cherché des réponses dans l'historique git, GitHub, PyPI et Hugging Face. Il a même détecté qu'il se trouvait dans un sandbox. Liquid AI indique avoir renforcé les sandboxes, et les résultats communiqués proviennent d'environnements scellés.
Quels sont les scores de LFM2.5-24B-A2B sur les benchmarks ?
Liquid AI a testé 16 benchmarks face à Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it et Nemotron-3.5-Lightning (30B-A3B). Il domine sur AutomationBench, ToolSandbox, LiveClaw et τ³-Bench Banking. Sur BFCLv4, c'est pratiquement une égalité avec 65.01 contre 65.00.
L'écart le plus important est sur AutomationBench : 27.69 contre 8.72 pour Qwen3.6-35B-A3B. Sur LiveClaw, il obtient 48.09 contre 38.19. Il arrive aussi en tête des 3 tests de suivi d'instructions : IFEval 96.75, IFBench 74.69 et Multi-IF 84.38.
Les modèles plus grands gagnent en connaissances et en code. Qwen3.6-35B-A3B mène sur GPQA Diamond (83.69 vs 74.42) et SWE-Bench Verified (66.20 vs 51.00). Qwen domine aussi WebArena Verified (37.62 vs 26.75) et PinchBench (89.93 vs 83.18).
LFM2.5-24B-A2B face aux concurrents
| Caractéristique | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning-30B-A3B |
|---|---|---|---|---|
| Développeur | Liquid AI | Alibaba Qwen | Google DeepMind | NVIDIA |
| Paramètres totaux | 24.0B | 35B | 25.2B | 30B |
| Paramètres actifs | 2.45B | 3B | 3.8B | 3B |
| Contexte | 131,072 | 262,144 natif | 256K | Jusqu'à 1M |
| Modalité d'entrée | Texte | Texte, image, vidéo | Texte, image | Texte |
| Architecture | MoE hybride Conv + GQA | MoE Gated DeltaNet + attention | MoE attention glissante/globale | Mamba-2 + attention MoE |
| Licence | LFM Open License v1.0 | Apache 2.0 | Apache 2.0 | OpenMDW-1.1 |
| AutomationBench* | 27.69 | 8.72 | 5.46 | 2.61 |
| LiveClaw* | 48.09 | 38.19 | 41.25 | 37.72 |
| IFBench* | 74.69 | 64.21 | 47.44 | 71.67 |
| GPQA Diamond* | 74.42 | 83.69 | 74.90 | 72.42 |
| SWE-Bench Verified* | 51.00 | 66.20 | 25.80 | 53.40 |
| GPQA (rapporté par le fournisseur) | Non divulgué séparément | 86.0 | 82.3 | 75.44 |
| Matériel de référence | Apple M5 Max (184 tok/s, Q4_K_M) | Non divulgué | GPU grand public et stations de travail | 1x H100 80GB (BF16) |
*Scores issus de la table de benchmarks de Liquid AI, tous les modèles exécutés par Liquid AI avec vLLM.
Sur quel matériel tourne LFM2.5-24B-A2B ?
Sur appareil, il décode 184 tokens/s sur un Apple M5 Max. Il atteint 114 tokens/s sur un AMD Ryzen AI Max+ 395. Liquid AI a mesuré les deux avec llama.cpp, une quantification Q4_K_M et une entrée de 4K tokens. Il revendique jusqu'à 1.7x la vitesse du MoE comparé le plus proche, avec la plus faible utilisation mémoire. Les besoins exacts en RAM n'ont pas été divulgués.
Pour le service, il dépasse 21K tokens/s en sortie sur un seul NVIDIA B300. Ce test utilisait SGLang 0.5.22, BF16, 1,024 tokens d'entrée et jusqu'à 256 tokens de sortie.
Le support dès le premier jour couvre Transformers, vLLM, SGLang, llama.cpp, MLX, LM Studio et ONNX. MLX nécessite mlx-lm>=0.32.0, car les versions antérieures routent incorrectement les experts. L'échantillonnage recommandé est temperature 0.1, top_k 50 et repetition penalty 1.05. Un modèle de décodage spéculatif DSpark est annoncé comme arrivant bientôt.
Combien coûte-t-il, et quelle est la licence ?
Sur Liquid Console, l'API coûte $0.10 par 1M de tokens d'entrée et $1.00 par 1M de tokens de sortie. L'entrée en cache coûte $0.05 par 1M, et les nouveaux comptes reçoivent $2 de crédit.
Les poids utilisent la LFM Open License v1.0, basé sur Apache 2.0. L'utilisation commerciale gratuite prend fin dès qu'une entreprise atteint $10M de revenus annuels.
Points clés
- 24B MoE, ~2B actifs, contexte de 131K, raisonnement uniquement.
- AutomationBench 27.69 contre 8.72 pour Qwen3.6-35B-A3B.
- 184 tok/s sur Apple M5 Max via llama.cpp Q4_K_M.
- En retrait sur SWE-Bench Verified (51.00 contre 66.20) et GPQA.
- Poids ouverts ; utilisation commerciale gratuite en dessous de $10M de revenus.
Découvrez le blog technique, les poids du modèle, la documentation et le rapport technique LFM2. Tout le mérite revient au chercheur de ce projet. N'hésitez pas également à nous suivre sur Twitter et n'oubliez pas de rejoindre notre SubReddit ML de plus de 150k et de vous abonner à notre Newsletter. Attendez ! vous êtes sur telegram ? vous pouvez désormais nous rejoindre sur telegram également.
L'article Liquid AI publie LFM2.5-24B-A2B : un MoE à 2B actifs pour les agents embarqués est applu pour la première fois sur MarkTechPost.