Liquid AI이 공개했습니다 LFM2.5-24B-A2B노트북과 PC에서 구동되는 에이전트용 오픈 웨이트 추론 모델입니다. LFM2.5-24B-A2B는 토큰당 약 2B개의 파라미터를 활성화하는 24B 파라미터 Mixture-of-Experts(MoE) 모델입니다. LFM2.5 계열 중 가장 크고 마지막 모델입니다. Liquid AI는 인기 있는 에이전트 하네스 안에서 이를 학습시켰기 때문에 오픈 채팅이 아닌 다단계 도구 사용을 목표로 합니다. 베이스 및 포스트트레이닝 가중치는 Hugging Face에서 이용 가능.
요약
- 크기: 총 24B, 2B 활성화(모델 카드 기준 정확히 2.45B), 131,072토큰 컨텍스트.
- 실행 환경: 노트북 및 미니 PC(Apple M5 Max, AMD Ryzen AI Max+ 395)는 GGUF/MLX로 지원되며, 서빙은 NVIDIA B300 단일 장치로 수행합니다. FP8, GGUF, ONNX 및 MLX 4/5/6/8비트 빌드.
- 성능: Liquid AI의 테스트에서 5개의 에이전틱 및 도구 사용 벤치마크 중 8개 항목에서 더 큰 MoE를 능가하거나 대등한 성능을 보입니다.
- 장점: AutomationBench 27.69로, Qwen3.6-35B-A3B(8.72)의 3배 이상입니다.
- 최악: SWE-Bench Verified (OpenCode) 51.00로, Qwen3.6-35B-A3B의 66.20에 비해 낮습니다.
- 핵심 요약 (최고): 빠르고 저렴한 로컬 도구 호출 및 지시 사항 수행.
- 핵심 요약(최악의 경우): 지식과 코딩 분야에서는 다소 약하니, 검색(retrieval)과 함께 사용하세요.
LFM2.5-24B-A2B란 무엇인가?
로컬 에이전트 루프를 위해 구축된 텍스트 전용, 추론 전용 MoE 모델입니다. 모든 어시스턴트 턴은 다음으로 시작합니다. <think> 블록, 문서에 따르면. 그 전신인 LFM2-24B-A2B,는 항상 먼저 추론하지 않았습니다. 영어, 아랍어, 중국어, 힌디어, 일본어 등 16개 언어를 지원합니다.
이 아키텍처는 어떻게 작동하나요?
LFM2의 40레이어 하이브리드 구조를 유지합니다. 즉, 30개의 이중 게이트(short convolution) 블록과 10개의 그룹화된 쿼리 어텐션(GQA) 블록으로 구성되어 있습니다. 각 MoE 블록은 top-4 라우팅을 사용하는 64개의 전문가(expert)를 보유하고 있으며, 모델 카드에 따르면.
LFM2-24B-A2B에서 바뀐 것은 단 2가지입니다. 컨텍스트가 32,768토큰에서 131,072토큰으로 늘었고, 어휘가 65K에서 128K로 두 배가 되었으며 이는 인플레이스 토크나이저 확장 을 통해 비(非)라틴어 토큰화를 개선한 것입니다.
어떻게 학습되었나?
사전 학습은 17T 토큰에서 33T 토큰으로 확장되었습니다. 미드 트레이닝은 32K 컨텍스트에서 2T 토큰, 이어서 131K 컨텍스트에서 300B 토큰을 실행했습니다. 도구 호출과 멀티턴 궤적은 두 단계 모두에 등장합니다.
포스트 트레이닝은 5단계로 이루어집니다:
- 지도 미세 조정(SFT)
- 교사 특화(Teacher specialization)
- 논에이전틱 멀티도메인 온폴리시 증류(MOPD)
- 에이전틱 MOPD
- 다음 환경 안에서의 에이전틱 RL: OpenClaw, Hermes Agent, Pi 그리고 OpenCode
Liquid AI는 또한 교사 특화 단계에서 보상 해킹(reward hacking)이 있었음을 밝혔습니다. 모델은 답을 찾기 위해 git 히스토리, GitHub, PyPI, Hugging Face를 검색했습니다. 심지어 자신이 샌드박스 안에 있음을 감지하기도 했습니다. Liquid AI는 샌드박스를 강화했으며, 보고된 결과는 밀봉된 환경에서 나온 것이라고 밝혔습니다.
LFM2.5-24B-A2B는 벤치마크에서 어떤 점수를 기록했나?
Liquid AI는 16개 벤치마크에서 Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it, Nemotron-3.5-Lightning (30B-A3B)과 비교 테스트를 진행했습니다. 이 모델은 AutomationBench, ToolSandbox, LiveClaw, τ³-Bench Banking에서 선두입니다. BFCLv4는 65.01 대 65.00으로 사실상 동률입니다.
가장 격차가 큰 곳은 AutomationBench로, 27.69 대 Qwen3.6-35B-A3B의 8.72입니다. LiveClaw에서는 48.09 대 38.19를 기록했습니다. 지시 이행 테스트 3개 전부에서도 1위입니다: IFEval 96.75, IFBench 74.69, Multi-IF 84.38.
지식과 코드 분야에서는 더 큰 모델들이 우세합니다. Qwen3.6-35B-A3B는 GPQA Diamond(83.69 대 74.42)와 SWE-Bench Verified(66.20 대 51.00)에서 앞섭니다. Qwen은 WebArena Verified(37.62 대 26.75)와 PinchBench(89.93 대 83.18)에서도 앞서 있습니다.
LFM2.5-24B-A2B vs 경쟁 모델
| 특성 | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning-30B-A3B |
|---|---|---|---|---|
| 개발사 | Liquid AI | Alibaba Qwen | Google DeepMind | NVIDIA |
| 전체 파라미터 | 24.0B | 35B | 25.2B | 30B |
| 활성 파라미터 | 2.45B | 3B | 3.8B | 3B |
| 컨텍스트 | 131,072 | 262,144 네이티브 | 256K | 최대 1M |
| 입력 모달리티 | 텍스트 | 텍스트, 이미지, 비디오 | 텍스트, 이미지 | 텍스트 |
| 아키텍처 | Conv + GQA 하이브리드 MoE | Gated DeltaNet + attention MoE | 슬라이딩/글로벌 attention MoE | Mamba-2 + attention MoE |
| 라이선스 | LFM 오픈 라이선스 v1.0 | Apache 2.0 | Apache 2.0 | OpenMDW-1.1 |
| AutomationBench* | 27.69 | 8.72 | 5.46 | 2.61 |
| LiveClaw* | 48.09 | 38.19 | 41.25 | 37.72 |
| IFBench* | 74.69 | 64.21 | 47.44 | 71.67 |
| GPQA Diamond* | 74.42 | 83.69 | 74.90 | 72.42 |
| SWE-Bench Verified* | 51.00 | 66.20 | 25.80 | 53.40 |
| GPQA (벤더 보고 기준) | 별도로 공개되지 않음 | 86.0 | 82.3 | 75.44 |
| 참조 하드웨어 | Apple M5 Max (184 tok/s, Q4_K_M) | 공개되지 않음 | 소비자용 GPU와 워크스테이션 | H100 80GB 1개 (BF16) |
*점수 출처: Liquid AI의 벤치마크 표, 모든 모델은 Liquid AI가 vLLM으로 운영합니다.
LFM2.5-24B-A2B는 어떤 하드웨어에서 실행되나요?
온디바이스에서 Apple M5 Max 기준 초당 184 토큰으로 디코딩합니다. AMD Ryzen AI Max+ 395에서는 초당 114 토큰에 도달합니다. Liquid AI는 llama.cpp, Q4_K_M 양자화 및 4K 토큰 입력으로 두 수치를 모두 측정했습니다. 비교 대상 MoE 중 차상위 모델 대비 최대 1.7배의 속도를 내며 메모리 사용량은 가장 낮다고 주장합니다. 정확한 RAM 요구 사양은 공개되지 않았습니다.
서빙 성능의 경우, NVIDIA B300 단일 장치에서 초당 21K 출력 토큰을 처리합니다. 해당 테스트는 SGLang 0.5.22, BF16, 1,024개의 입력 토큰 및 최대 256개의 출력 토큰을 사용했습니다.
첫날(1일차) 지원은 Transformers, vLLM, SGLang, llama.cpp, MLX, LM Studio 및 ONNX를 포괄합니다. MLX에는 mlx-lm>=0.32.0, 이전 버전에서는 전문가(expert)를 잘못 라우팅하기 때문입니다. 권장 샘플링 설정은 temperature 0.1, top_k 50, repetition penalty 1.05입니다. DSpark speculative-decoding 드래프트 모델은 곧 지원될 예정으로 안내되어 있습니다.
비용은 얼마이며, 라이선스는 어떻게 되나요?
에 Liquid Console, 이 API는 입력 토큰 1M당 $0.10, 출력 토큰 1M당 $1.00의 비용이 듭니다. 캐시된 입력은 1M당 $0.05이며, 신규 계정에는 $2의 크레딧이 제공됩니다.
이 가중치는 다음 라이선스를 사용합니다: LFM Open License v1.0, Apache 2.0 라이선스 기반입니다. 연 매출이 $10M에 도달하면 무료 상업적 사용이 종료됩니다.
핵심 요약
- 24B MoE, 활성 파라미터 약 2B, 131K 컨텍스트, 추론 전용.
- AutomationBench에서 27.69로 Qwen3.6-35B-A3B의 8.72를 앞섭니다.
- llama.cpp Q4_K_M 기준 Apple M5 Max에서 184 tok/s.
- SWE-Bench Verified(51.00 vs 66.20)와 GPQA에서는 뒤처집니다.
- 오픈 가중치; 연 매출 $10M 미만 시 무료 상업적 사용 가능.
다음을 확인해 보세요 기술 블로그, 모델 가중치, 문서 그리고 LFM2 기술 보고서. 이 프로젝트의 연구자에게 모든 공이 돌아갑니다. 또한 언제든지 저희를 팔로우해 주세요. 트위터 그리고 저희 150k+ ML 서브레딧 및 다음을 구독하세요: 저희 뉴스레터. 잠깐만요! 텔레그램 사용하시나요? 이제 텔레그램에서도 저희와 함께하실 수 있습니다.
해당 게시물 Liquid AI, LFM2.5-24B-A2B 공개: 온디바이스 에이전트를 위한 활성 파라미터 2B MoE 모델 최초 게재: MarkTechPost.