MarkTechPost更新日

Liquid AI、LFM2.5-24B-A2Bをリリース: オンデバイスエージェント向けの2BアクティブMoE

Liquid AIが、アクティブパラメータ2Bのオープンウェイト24B Mixture-of-Experts推論モデル「LFM2.5-24B-A2B」をリリースしました。ローカルエージェント向けに設計されており、LiveClawで48.09を記録し、Apple M5 Max上で184トークン/秒のデコード性能を達成しています。この投稿「Liquid AI Releases LFM2.5-24B-A2B: A 2B-Active MoE…

Liquid AIがリリースした LFM2.5-24B-A2BラップトップやPC上で動作するエージェント向けのオープンウェイト推論モデルです。LFM2.5-24B-A2Bは、トークンごとに約2Bのパラメータを活性化する24BパラメータのMixture-of-Experts(MoE)モデルです。LFM2.5ファミリーの中で最大かつ最後のメンバーです。Liquid AIは一般的なエージェントハーネスの中でこのモデルを訓練したため、オープンなチャットよりも多段階のツール利用を対象としています。ベースおよびポストトレーニング済みの重みは Hugging Faceで利用可能.

要約

  • サイズ: 合計24B、アクティブ2B(モデルカードによると正確には2.45B)、131,072トークンのコンテキスト。
  • 動作環境: ノートPCおよびミニPC(Apple M5 Max、AMD Ryzen AI Max+ 395)はGGUF/MLX経由で対応。推論(サービング)にはNVIDIA B300を1基使用。FP8、GGUF、ONNX、MLXの4/5/6/8ビットビルドに対応。
  • パフォーマンス: Liquid AIのテストにおいて、8つのエージェント型およびツール使用ベンチマークのうち5つで、より大規模なMoEと同等かそれを上回る成績を収めています。
  • ベスト: AutomationBench 27.69、Qwen3.6-35B-A3B(8.72)の3倍以上。
  • 最悪: SWE-Bench Verified(OpenCode)は51.00、一方Qwen3.6-35B-A3Bは66.20。
  • 結論(最良の選択肢): 高速かつ低コストなローカルでのツール呼び出しと指示追従。
  • 最悪の結論: 知識やコーディングはやや弱く、検索と併用するのがよい。

LFM2.5-24B-A2Bとは何ですか?

ローカルのエージェントループ向けに構築された、テキストのみ、推論のみのMoEモデルです。アシスタントの毎ターンは「 <think> ブロック, ドキュメントによると。その前身である LFM2-24B-A2B、必ずしも最初に推論していたわけではありません。英語、アラビア語、中国語、ヒンディー語、日本語を含む16の言語に対応しています。

このアーキテクチャはどのように機能するのですか?

LFM2の40層ハイブリッド構成を維持しています。すなわち、ダブルゲート付き短畳み込みブロック30個と、グループ化クエリ注意機構(GQA)ブロック10個です。各MoEブロックには64個のエキスパートが含まれ、top-4ルーティングが用いられます。 モデルカードによると.

LFM2-24B-A2Bから変わったのはわずか2点です。コンテキストが32,768トークンから131,072トークンに拡大しました。語彙は65Kから128Kへ倍増しており、これは インプレースのトークナイザー拡張 によるもので、ラテン文字以外のトークン化を改善しています。

どのように訓練されたのか?

事前学習は17Tトークンから33Tトークンに拡大されました。ミッドトレーニングでは、32Kコンテキストで2Tトークン、その後131Kコンテキストで300Bトークンを実行しました。ツール呼び出しとマルチターンの軌跡は両方のフェーズに含まれています。

ポストトレーニングは5つのステージで構成されます:

  1. 教師ありファインチューニング(SFT)
  2. Teacher specialization(教師特化)
  3. 非エージェント型マルチドメインオンポリシー蒸留(MOPD)
  4. エージェント型MOPD
  5. 以下の環境でのエージェント型RL: OpenClaw, Hermes Agent, Pi および OpenCode

Liquid AIは、teacher specialization中にreward hacking(報酬ハッキング)が発生したことも明らかにしました。モデルはgit履歴、GitHub、PyPI、Hugging Faceから答えを検索していました。自分がサンドボックス内にいることすら検出したのです。Liquid AIはサンドボックスを強化したと述べており、報告された結果は封鎖された環境から得られたものです。

LFM2.5-24B-A2Bはベンチマークでどのようなスコアを示すのか?

Liquid AIは16のベンチマークでQwen3.6-35B-A3B、Gemma-4-26B-A4B-it、Nemotron-3.5-Lightning(30B-A3B)と比較検証しました。AutomationBench、ToolSandbox、LiveClaw、τ³-Bench Bankingで首位です。BFCLv4は65.01対65.00で実質的に引き分けです。

最も差が大きいのはAutomationBenchで、27.69対Qwen3.6-35B-A3Bの8.72です。LiveClawでは48.09対38.19です。3つの指示追従テストすべてでも首位です:IFEval 96.75、IFBench 74.69、Multi-IF 84.38。

知識とコードではより大きなモデルが勝ります。Qwen3.6-35B-A3BはGPQA Diamond(83.69対74.42)とSWE-Bench Verified(66.20対51.00)でリードしています。QwenはWebArena Verified(37.62対26.75)とPinchBench(89.93対83.18)でもリードしています。

LFM2.5-24B-A2B vs 競合モデル

機能LFM2.5-24B-A2BQwen3.6-35B-A3BGemma-4-26B-A4B-itNemotron-3.5-Lightning-30B-A3B
開発元Liquid AIAlibaba QwenGoogle DeepMindNVIDIA
総パラメータ数24.0B35B25.2B30B
アクティブパラメータ数2.45B3B3.8B3B
コンテキスト131,072262,144 ネイティブ256K最大 1M
入力モダリティテキストテキスト、画像、動画テキスト、画像テキスト
アーキテクチャConv + GQA ハイブリッド MoEGated DeltaNet + attention MoEスライディング/グローバル attention MoEMamba-2 + attention MoE
ライセンスLFM Open License v1.0Apache 2.0Apache 2.0OpenMDW-1.1
AutomationBench*27.698.725.462.61
LiveClaw*48.0938.1941.2537.72
IFBench*74.6964.2147.4471.67
GPQA Diamond*74.4283.6974.9072.42
SWE-Bench Verified*51.0066.2025.8053.40
GPQA (ベンダー報告値)個別には非公開86.082.375.44
リファレンスハードウェアApple M5 Max (184 tok/s、Q4_K_M)非公開コンシューマーGPUおよびワークステーション1x H100 80GB (BF16)

*スコアの出典は Liquid AIのベンチマーク表で、すべてのモデルはLiquid AIがvLLMで実行したものです。

LFM2.5-24B-A2Bはどのハードウェアで動作しますか?

オンデバイスでは、Apple M5 Maxで184トークン/秒でデコードします。AMD Ryzen AI Max+ 395では114トークン/秒に達します。Liquid AIは両方をllama.cpp、Q4_K_M量子化、4Kトークン入力で測定しました。比較した次点のMoE比で最大1.7倍の速度を主張しており、メモリ使用量は最小です。正確なRAM要件は非公開です。

サービングでは、単体のNVIDIA B300で出力21Kトークン/秒を達成します。このテストではSGLang 0.5.22、BF16、1,024入力トークン、最大256出力トークンを使用しました。

初日サポートはTransformers、vLLM、SGLang、llama.cpp、MLX、LM Studio、ONNXを対象とします。MLXでは mlx-lm>=0.32.0が必要です。それ以前のバージョンではエキスパートのルーティングが誤って行われるためです。推奨サンプリング設定はtemperature 0.1、top_k 50、repetition penalty 1.05です。DSparkのspeculative-decodingドラフトモデルが近日公開予定として記載されています。

コストとライセンスはどうなっていますか?

で Liquid Console,このAPIのコストは入力1Mトークンあたり$0.10、出力1Mトークンあたり$1.00です。キャッシュされた入力は1Mあたり$0.05で、新規アカウントには$2のクレジットが付与されます。

重みは LFM Open License v1.0Apache 2.0 ベース。年間売上高が $10M に達すると、商用無償利用は終了します。

主なポイント

  • 24B MoE、アクティブ約 2B、コンテキスト 131K、推論専用。
  • AutomationBench は 27.69、Qwen3.6-35B-A3B は 8.72。
  • llama.cpp Q4_K_M による Apple M5 Max で 184 tok/s。
  • SWE-Bench Verified(51.00 vs 66.20)や GPQA では劣後。
  • オープンウェイト。売上高 $10M 未満なら商用無償利用が可能。

以下をご覧ください: 技術ブログ, モデルの重み, ドキュメント および LFM2 技術レポート。本プロジェクトの研究者に全ての功績が帰します。また、ぜひ私たちをフォローしてください。 Twitter そして、私たちの 150k以上のML SubReddit および登録する 当社のニュースレター. 待って!Telegramを使っていますか? Telegramでも参加できるようになりました。

その投稿 Liquid AI、LFM2.5-24B-A2Bをリリース: オンデバイスエージェント向け2BアクティブMoE 初出元: MarkTechPost.

原文の出典

MarkTechPost

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください