Liquid AI a publié LFM3, sa nouvelle génération de Liquid Foundation Models. Liquid AI LFM3 est une famille de 6 modèles de classe 2B à poids ouverts construits sur une architecture partagée commune. La famille couvre les tâches de texte, de vision, d'audio, d'omni et de décision. Chaque modèle peut être affiné sur un seul GPU. Les développeurs peuvent ensuite déployer sur des téléphones, des ordinateurs portables, des serveurs privés ou le cloud.
TL;DR
- Taille : LFM3-1.7B possède 1.73B de paramètres et une fenêtre de contexte de 256K. LFM3-VL-2B a 1.92B et 128K. LFM3-Omni-2B a 2.2B.
- Fonctionne avec : environ 1 Go de mémoire en 4 bits, donc des téléphones et des ordinateurs portables. Des checkpoints GGUF, MLX, ONNX, FP8 et NVFP4 sont fournis.
- Performance : LFM3-1.7B obtient une moyenne de 49.37 sur 29 benchmarks, au-dessus de Qwen3.5-9B à 47.24 (évaluation propre de Liquid).
- Meilleur : IFEval 96.66, et AutomationBench 41.29 contre 15.10 pour Qwen3.5-9B.
- Pire : Humanity's Last Exam (sans outils) 7.17, et RULER 128K 65.56 contre 87.11 pour Qwen3.5-9B.
Qu'est-ce que Liquid AI LFM3 ?
LFM3 est une famille de modèles multimodaux de Liquid AI qui décline 6 modèles à partir de 1 base. Tous partent de LFM3-1.7B-Base.
La version comprend :
- LFM3-1.7B : un modèle de texte pour agents locaux, post-entraîné pour des harnesses comme Hermes Agent, Pi et OpenClaw.
- LFM3-VL-2B : le premier modèle de vision LFM avec entrée vidéo, échantillonnée à 2 fps.
- LFM3-Audio-2B : entrée et sortie vocales dans 18 langues, avec appel d'outils.
- LFM3-Omni-2B : vision, audio et langue dans un seul modèle, répondant en texte ou en voix.
- d1-2B et d1-Omni-2B : des modèles de décision qui répondent à de nombreuses questions en 1 passe avant.
Comment fonctionne l'architecture tri-hybride ?
Le backbone mélange 3 opérateurs sur 24 couches. On y trouve 13 convolutions courtes à portes, 5 couches d'attention à fenêtre glissante et 6 couches d'attention globale. La fenêtre SWA est de 256 tokens. Les noyaux de convolution sont passés de 3 à 7.
L'équipe de Liquid AI a trouvé ce mélange grâce à sa recherche d'architecture hardware-in-the-loop. LFM2 a été ajusté sur 1 téléphone et 1 ordinateur portable. LFM3 a été ajusté sur 14 combinaisons d'appareils et de backends. Cela inclut un Raspberry Pi 5 et le NPU Qualcomm Hexagon.
Les autres changements comprennent des portes sigmoïdes par tête sur l'attention, un RoPE partiel sur les couches globales et la norme sandwich. Le modèle de base a vu 22T tokens. Les derniers 3.5T tokens ont été un mid-training axé sur les agents, qui a également étendu le contexte à 256K.
Le post-training s'est déroulé en 4 étapes. D'abord un SFT sur 1.75T tokens, puis un RL mixte. Ensuite, 6 enseignants spécialistes ont été distillés dans 1 modèle, suivi d'un RL agentique.
Comment LFM3-1.7B se comporte-t-il sur les benchmarks ?
Liquid AI rapporte que LFM3-1.7B surpasse LFM2.5-2.6B avec 35% de paramètres en moins. Le fait le plus marquant concerne les résultats agentiques. Sur WebArena-Verified, il obtient 38.42, contre 28.94 pour Qwen3.5-9B. Sur BFCL V4, il obtient 71.39, contre 62.83.
La taille gagne toujours sur les connaissances et le codage agentique. GPQA Diamond est à 63.37, contre 80.40 pour Qwen3.5-9B. SWE-bench Verified est à 43.40, contre 51.20. La recherche d'outils réduit l'écart : Humanity's Last Exam passe de 7.17 à 13.90 avec des outils.
Comment LFM3-1.7B se compare-t-il à ses rivaux ?
| Caractéristique | LFM3-1.7B | MiniCPM5-2B | Qwen3.5-4B | Gemma 4 E4B |
|---|---|---|---|---|
| Paramètres | 1.73B | 2.52B | LM 4B (5B sur le Hub avec vision) | 4.5B effectifs (8B avec embeddings) |
| Architecture | Conv + SWA + attention globale | Transformer Llama standard | Gated DeltaNet + attention avec portes | Fenêtre glissante + attention globale |
| Contexte | 256K | 131,072 | 262,144 | 128K |
| Modalités d'entrée | Texte | Texte | Texte, image, vidéo | Texte, image, audio |
| Licence | LFM Open License v1.0 (seuil de revenus de 10M$) | Apache 2.0 | Apache 2.0 | Apache 2.0 |
| BFCL V4 (éval Liquid) | 71.39 | 62.65 | 55.12 | 48.25 |
| WebArena-Verified (éval Liquid) | 38.42 | 9.11 | 21.92 | 17.06 |
| SWE-bench Verified (éval Liquid) | 43.40 | 34.80 | 41.20 | 0.50 |
| GPQA Diamond (éval Liquid) | 63.37 | 65.15 | 75.76 | 57.88 |
| GPQA Diamond (rapporté par le fournisseur) | 63.37 | 70.2 | 76.2 | 58.6 |
| RULER 128K (éval Liquid) | 65.56 | 37.96 | 84.63 | 18.82 |
| Moyenne Liquid sur 29 benchmarks | 49.37 | 39.19 | 39.27 | 31.74 |
Sources : Carte du modèle Liquid LFM3, Carte MiniCPM5-2B, Carte Qwen3.5-4B, Carte Gemma 4 E4B, Licence LFM.
Qu'en est-il des modèles de vision, audio, omni et de décision ?
LFM3-VL-2B obtient en moyenne 71.4 sur 62 benchmarks de vision. Gemma 4 12B obtient 71.7 sur la même suite. Il domine cette comparaison sur le grounding visuel (77.3) et la compréhension des GUI (83.1). La vidéo (61.2) et les tâches agentiques (42.5) restent en retrait par rapport aux grands modèles API.
LFM3-Audio-2B atteint un WER anglais de 6.2 et un score TTS UTMOSv2 de 3.8. LFM3-Omni-2B obtient 70.1 sur Daily-Omni, contre 61.3 pour Qwen2.5-Omni-7B.
d1-2B remplace d1-3B avec un tiers de paramètres en moins. Il améliore Decision Bench de 83.6 à 85.2.
Comment les développeurs peuvent-ils déployer LFM3 ?
Les poids sont sur Hugging Face, le Liquid AI Playground et l'API Liquid. La docs liste GGUF, MLX et ONNX pour les modèles de texte et de vision. Les runtimes incluent llama.cpp, MLX, vLLM, SGLang, Ollama et Transformers.
Sur appareil, Liquid AI a mesuré llama.cpp en Q4_0 avec un contexte de 32K. Un contexte complet de 128K nécessite 1.6 Go de cache KV. Qwen3.5-4B nécessite 4.3 Go. Sur 1 NVIDIA B300 avec SGLang, LFM3-1.7B produit 3.6B tokens par jour à 1,024 requêtes simultanées.
Liquid AI a également démontré la spécialisation. Quelques heures de SFT et de GRPO sur 1 A100 ont porté la classification des défauts des éoliennes à 67%.
Points clés à retenir
- 6 modèles ouverts de classe 2B partagent 1 backbone tri-hybride.
- LFM3-1.7B tient dans environ 1 Go en 4 bits avec un contexte de 256K.
- Il bat Qwen3.5-9B sur BFCL V4, WebArena-Verified et AutomationBench.
- Les connaissances et le codage agentique restent des points faibles évidents.
- L'utilisation commerciale gratuite s'arrête à 10 M$ de revenus annuels.
Découvrez le détails techniques, poids du modèle et la docs. N'hésitez pas également à nous suivre sur Twitter et n'oubliez pas de rejoindre notre 150k+ML SubReddit et de vous abonner à notre Newsletter. Attention ! êtes-vous sur telegram ? vous pouvez désormais nous rejoindre sur telegram également.
Besoin de vous associer à nous pour promouvoir votre dépôt GitHub OU votre page Hugging Face OU le lancement d'un produit OU un webinaire, etc. ? Connectez-vous avec nous
Le post Liquid AI lance LFM3 : 6 modèles multimodaux ouverts de classe 2B est apparu en premier sur MarkTechPost.