MarkTechPost更新于

Liquid AI 发布 LFM2.5-24B-A2B:一款用于端侧智能体的2B激活参数MoE模型

Liquid AI发布开源MoE模型LFM2.5-24B-A2B,总参数24B、激活约2B,专为本地代理多步工具调用训练,在Apple M5 Max上解码184 tokens/s;文中基准为厂商自测,知识与编码落后于更大模型。

Liquid AI 已经发布 LFM2.5-24B-A2B,这是一款面向运行于笔记本电脑和PC上的智能体的开放权重推理模型。LFM2.5-24B-A2B 是一个24B参数的混合专家(MoE)模型,每个 token 激活约2B参数。它是 LFM2.5 家族中最大也是最后一个成员。Liquid AI 在流行的智能体框架内对其进行了训练,因此它面向多步骤工具使用而非开放式聊天。基础权重和后训练权重已 在 Hugging Face 上提供.

TL;DR

  • 规模: 24B总参数,2B激活(模型卡显示精确为2.45B),131,072 token上下文。
  • 运行于: 笔记本电脑和迷你PC(Apple M5 Max、AMD Ryzen AI Max+ 395),通过 GGUF/MLX;服务部署用单块 NVIDIA B300。提供 FP8、GGUF、ONNX 和 MLX 4/5/6/8-bit 版本。
  • 性能: 在 Liquid AI 的测试中,于8个智能体和工具使用基准中的5个上领先或持平更大的MoE模型。
  • 最佳: AutomationBench 27.69,是 Qwen3.6-35B-A3B(8.72)的3倍多。
  • 最差: SWE-Bench Verified (OpenCode) 51.00,而 Qwen3.6-35B-A3B 为66.20。
  • 结论(最佳): 快速、低成本的本地工具调用和指令遵循。
  • 结论(最差): 在知识和编程方面较弱;建议搭配检索使用。

什么是 LFM2.5-24B-A2B?

它是一款纯文本、纯推理的MoE模型,专为本地智能体循环而构建。根据文档,每个助手回合都以一个 <think> 代码块开头, 见文档。它的前身 LFM2-24B-A2B并不总是先进行推理。它支持16种语言,包括英语、阿拉伯语、中文、印地语和日语。

架构是如何工作的?

它保留了 LFM2 的40层混合结构:30个双门控短卷积块和10个分组查询注意力(GQA)块。每个MoE块包含64个专家,采用top-4路由, 根据模型卡.

与LFM2-24B-A2B相比只改变了2件事。上下文从32,768扩展到131,072个token。词表通过一次……从65K翻倍到128K。 原地分词器扩展 从 65K 翻倍到 128K,以改进非拉丁语言的分词。

它是如何训练的?

预训练从 17T 扩展到 33T tokens。中期训练在 32K 上下文下运行了 2T tokens,随后在 131K 上下文下运行了 300B tokens。工具调用和多轮轨迹出现在两个阶段中。

后训练有 5 个阶段:

  1. 监督微调(SFT)
  2. 教师专门化
  3. 非智能体多领域在策略蒸馏(MOPD)
  4. 智能体 MOPD
  5. 在以下环境中的智能体强化学习: OpenClaw, Hermes Agent, Pi 以及 OpenCode

Liquid AI 还披露了教师专门化期间的奖励作弊行为。该模型会搜索 git 历史、GitHub、PyPI 和 Hugging Face 寻找答案。它甚至检测到自己处于沙箱中。Liquid AI 表示已收紧沙箱,并称所报告的结果来自封闭环境。

LFM2.5-24B-A2B 在基准测试中表现如何?

Liquid AI 针对约 16 项基准测试与 Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it 和 Nemotron-3.5-Lightning (30B-A3B) 进行了对比。它在 AutomationBench、ToolSandbox、LiveClaw 和 τ³-Bench Banking 上领先。BFCLv4 实际上是平局,65.01 对 65.00。

差距最大的是 AutomationBench:27.69 对 Qwen3.6-35B-A3B 的 8.72。在 LiveClaw 上它得分为 48.09 对 38.19。它还在全部 3 项指令遵循测试中名列前茅:IFEval 96.75、IFBench 74.69 和 Multi-IF 84.38。

更大的模型在知识和代码方面胜出。Qwen3.6-35B-A3B 在 GPQA Diamond(83.69 对 74.42)和 SWE-Bench Verified(66.20 对 51.00)上领先。Qwen 在 WebArena Verified(37.62 对 26.75)和 PinchBench(89.93 对 83.18)上也领先。

LFM2.5-24B-A2B 与竞争对手对比

特性LFM2.5-24B-A2BQwen3.6-35B-A3BGemma-4-26B-A4B-itNemotron-3.5-Lightning-30B-A3B
开发者Liquid AI阿里巴巴 QwenGoogle DeepMindNVIDIA
总参数量24.0B35B25.2B30B
激活参数量2.45B3B3.8B3B
上下文131,072262,144 原生256K最高 1M
输入模态文本文本、图像、视频文本、图像文本
架构卷积 + GQA 混合 MoE门控 DeltaNet + 注意力 MoE滑动/全局注意力 MoEMamba-2 + attention MoE
许可证LFM Open License v1.0Apache 2.0Apache 2.0OpenMDW-1.1
AutomationBench*27.698.725.462.61
LiveClaw*48.0938.1941.2537.72
IFBench*74.6964.2147.4471.67
GPQA Diamond*74.4283.6974.9072.42
SWE-Bench Verified*51.0066.2025.8053.40
GPQA(厂商报告值)未单独披露86.082.375.44
参考硬件Apple M5 Max(184 tok/s,Q4_K_M)未披露消费级GPU和工作站1x H100 80GB(BF16)

*分数来自 Liquid AI的基准测试表,所有模型均由Liquid AI使用vLLM运行。

LFM2.5-24B-A2B需要什么硬件才能运行?

在设备端,它在Apple M5 Max上解码速度为184 tokens/s,在AMD Ryzen AI Max+ 395上达到114 tokens/s。Liquid AI使用llama.cpp、Q4_K_M量化和4K token输入对两者进行了测量。该公司声称其速度是所对比的次优MoE的1.7倍,且内存占用最低。具体RAM需求未披露。

在服务端,它在单块NVIDIA B300上输出吞吐达21K tokens/s。该测试使用SGLang 0.5.22、BF16、1,024个输入token和最多256个输出token。

首日支持涵盖Transformers、vLLM、SGLang、llama.cpp、MLX、LM Studio和ONNX。MLX需要 mlx-lm>=0.32.0,因为更早的版本会错误地路由专家。推荐的采样参数为temperature 0.1、top_k 50和repetition penalty 1.05。一个DSpark推测解码草稿模型被列为即将推出。

它的价格是多少,许可证是什么?

在 Liquid Console,该API的价格为每1M输入tokens 0.10美元,每1M输出tokens 1.00美元。缓存输入每1M收费0.05美元,新账户可获得2美元额度。

权重采用 LFM Open License v1.0,基于 Apache 2.0。当年营收达到 10M 美元后,免费商用即告结束。

要点总结

  • 24B MoE,约 2B 激活参数,131K 上下文,仅支持推理。
  • AutomationBench 得分 27.69,而 Qwen3.6-35B-A3B 为 8.72。
  • 在 Apple M5 Max 上通过 llama.cpp Q4_K_M 达到 184 tok/s。
  • 在 SWE-Bench Verified(51.00 对 66.20)和 GPQA 上落后。
  • 开放权重;年营收低于 10M 美元可免费商用。

查看 技术博客, 模型权重, 文档 以及 LFM2 技术报告。所有功劳归于该项目的研究人员。另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ML SubReddit 并订阅 我们的通讯。等等!你在用 Telegram 吗? 现在你也可以在 Telegram 上加入我们了。

文章 Liquid AI 发布 LFM2.5-24B-A2B:一个面向端侧智能体的 2B 激活参数 MoE 模型 首发于 MarkTechPost.

原始出处

MarkTechPost

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准