Liquid AI はリリースしました LFM3、同社の新世代Liquid Foundation Modelsです。Liquid AI LFM3は、1つの共有バックボーン上に構築された、オープンウェイトの2Bクラスモデル6種からなるファミリーです。このファミリーは、テキスト、ビジョン、オーディオ、オムニ、意思決定タスクをカバーします。すべてのモデルは単一のGPUでファインチューニング可能です。開発者はその後、スマートフォン、ラップトップ、プライベートサーバー、クラウドにデプロイできます。
TL;DR
- サイズ: LFM3-1.7Bは 1.73Bパラメータと256Kのコンテキストウィンドウを持ちます。LFM3-VL-2Bは1.92Bと128K。LFM3-Omni-2Bは2.2Bです。
- 動作環境: 4ビットで約1 GBのメモリのため、スマートフォンやラップトップで動作します。GGUF、MLX、ONNX、FP8、NVFP4のチェックポイントが提供されます。
- パフォーマンス: LFM3-1.7Bは29のベンチマークで平均49.37、47.24のQwen3.5-9Bを上回ります（Liquid独自の評価）。
- 最良: IFEval 96.66、AutomationBenchは41.29で、Qwen3.5-9Bの15.10を大きく上回る。
- 最悪: Humanity's Last Exam（ツールなし）は7.17、RULER 128Kは65.56で、Qwen3.5-9Bは87.11。
Liquid AI LFM3とは何か？
LFM3は、Liquid AIによるマルチモーダルモデルファミリーで、1つのベースから6モデルに分岐します。すべてのモデルは LFM3-1.7B-Base.
から始まります。リリース内容は以下の通りです：
- LFM3-1.7B: ローカルエージェント向けのテキストモデルで、Hermes Agent、Pi、OpenClawなどのハーネス向けにポストトレーニングされています。
- LFM3-VL-2B: 映像入力に対応した初のLFMビジョンモデルで、2 fpsでサンプリングされます。
- LFM3-Audio-2B: 18言語に対応した音声入出力を備え、ツール呼び出しも可能です。
- LFM3-Omni-2B: ビジョン、オーディオ、言語を1つのモデルに統合し、テキストまたは音声で回答します。
- d1-2B と d1-Omni-2B: 1回のフォワードパスで多くの質問に答える決定モデル。
トライハイブリッドアーキテクチャはどのように機能するのか？
バックボーンは3種類のオペレーターを 24層にわたって組み合わせています。ゲート付きショート畳み込みが13層、スライディングウィンドウ注意機構（SWA）層が5層、グローバル注意機構層が6層です。SWAのウィンドウは256トークンです。畳み込みカーネルは3から7に拡大されました。
Liquid AIチームは、ハードウェアインザループのアーキテクチャ探索によってこの組み合わせを見つけました。LFM2は1台の電話と1台のラップトップでチューニングされました。LFM3は14通りのデバイスとバックエンドの組み合わせでチューニングされました。これにはRaspberry Pi 5やQualcomm Hexagon NPUが含まれます。
その他の変更点には、注意機構へのヘッドごとのシグモイドゲート、グローバル層での部分RoPE、サンドイッチ正規化があります。ベースモデルは22Tトークンを学習しました。最後の3.5Tトークンはエージェント主体のミッドトレーニングであり、コンテキストも256Kに拡張されました。
ポストトレーニングは4段階で実施されました。まず1.75TトークンでのSFT、次に混合RL。その後、6つの専門家ティーチャーを1つのモデルに蒸留し、続いてエージェントRLが行われました。
LFM3-1.7Bはベンチマークでどのような性能を示すのか？
Liquid AIによると、 LFM3-1.7BはLFM2.5-2.6Bを 35%少ないパラメータ数で上回ります。より注目すべきはエージェントの結果です。WebArena-Verifiedでは38.42を獲得し、Qwen3.5-9Bの28.94を上回りました。BFCL V4では71.39を獲得し、62.83に対しています。
知識やエージェントコーディングでは依然としてサイズが勝ります。GPQA Diamondは63.37で、Qwen3.5-9Bの80.40に対しています。SWE-bench Verifiedは43.40で、51.20に対しています。検索ツールによって差は縮まり、Humanity’s Last Examはツール使用時に7.17から13.90に向上しました。
LFM3-1.7Bと競合モデルはどのように比較されるのか？
| 機能 | LFM3-1.7B | MiniCPM5-2B | Qwen3.5-4B | Gemma 4 E4B |
|---|---|---|---|---|
| パラメータ | 1.73B | 2.52B | 4B LM（Hub上ではビジョン付きで5B） | 実効4.5B（エンベディング込みで8B） |
| アーキテクチャ | Conv + SWA + グローバルアテンション | 標準的なLlamaトランスフォーマー | Gated DeltaNet + ゲート付きアテンション | スライディングウィンドウ + グローバルアテンション |
| コンテキスト | 256K | 131,072 | 262,144 | 128K |
| 入力モダリティ | テキスト | テキスト | テキスト、画像、動画 | テキスト、画像、音声 |
| ライセンス | LFM Open License v1.0（売上高$10M基準） | Apache 2.0 | Apache 2.0 | Apache 2.0 |
| BFCL V4（Liquid eval） | 71.39 | 62.65 | 55.12 | 48.25 |
| WebArena-Verified（Liquid eval） | 38.42 | 9.11 | 21.92 | 17.06 |
| SWE-bench Verified（Liquid eval） | 43.40 | 34.80 | 41.20 | 0.50 |
| GPQA Diamond（Liquid eval） | 63.37 | 65.15 | 75.76 | 57.88 |
| GPQA Diamond（ベンダー報告値） | 63.37 | 70.2 | 76.2 | 58.6 |
| RULER 128K（Liquid eval） | 65.56 | 37.96 | 84.63 | 18.82 |
| Liquid 29ベンチマーク平均 | 49.37 | 39.19 | 39.27 | 31.74 |
出典： Liquid LFM3モデルカード, MiniCPM5-2Bカード, Qwen3.5-4Bカード, Gemma 4 E4Bカード, LFMライセンス.
ビジョン、音声、オムニ、意思決定モデルはどうなっていますか?
LFM3-VL-2B 62の視覚ベンチマークで平均71.4を記録します。Gemma 4 12Bは同じスイートで71.7を獲得。LFM3-VL-2Bは視覚グラウンディング(77.3)とGUI理解(83.1)でこの比較をリードしています。ビデオ(61.2)とエージェントタスク(42.5)は依然としてより大規模なAPIモデルに及びません。
LFM3-Audio-2Bは英語WER 6.2、UTMOSv2 TTSスコア3.8に到達します。LFM3-Omni-2BはDaily-Omniで70.1を記録し、Qwen2.5-Omni-7Bの61.3を上回ります。
d1-2Bはd1-3Bを、パラメータ数を3分の1に抑えて置き換えます。Decision Benchを83.6から85.2に改善します。
開発者はLFM3をどうデプロイできるのか?
重みは以下で公開されています: Hugging Face、Liquid AI Playground、Liquid APIです。 docs には、テキストおよび視覚モデル向けのGGUF、MLX、ONNXが記載されています。ランタイムにはllama.cpp、MLX、vLLM、SGLang、Ollama、Transformersが含まれます。
オンデバイスでは、Liquid AIがQ4_0・32Kコンテキストでのllama.cppを測定しました。完全な128KコンテキストにはKVキャッシュ1.6 GBが必要です。Qwen3.5-4Bは4.3 GB必要です。NVIDIA B300 1基とSGLangを使用すると、LFM3-1.7Bは1,024同時リクエストで1日あたり3.6Bトークンを生成します。
Liquid AIは特化(スペシャリゼーション)の実績も示しました。A100 1基での数時間のSFTとGRPOにより、風車の欠陥分類を67%まで向上させました。
要点
- 6つのオープンウェイト2Bクラスモデルが1つのトライハイブリッドバックボーンを共有しています。
- LFM3-1.7Bは4ビットで256Kコンテキスト付きなら約1 GBに収まります。
- BFCL V4、WebArena-Verified、AutomationBenchでQwen3.5-9Bを上回ります。
- 知識とエージェントコーディングは依然として明確な弱点です。
- 商用無償利用は年間売上高$10Mまでです。
以下もチェックしてみてください: 技術詳細, モデル重み および ドキュメント。また、ぜひ Twitter でフォローし、 150k+ML SubReddit への参加と、 our Newsletterの購読もお忘れなく。お待ちください!Telegramをご利用ですか? 現在、Telegramでも参加できるようになりました。
GitHubリポジトリ、Hugging Faceページ、製品リリース、ウェビナーなどのプロモーションで提携をご希望ですか? 私たちとつながりましょう
この投稿 Liquid AI、LFM3を公開：オープンウェイトの2Bクラスマルチモーダルモデル6種 の最初は MarkTechPost.