최근, 유명한 AI 혁신 기업인 Liquid AI는 새로운 세대의 기반 모델 제품군인 LFM3를 공식적으로 출시했습니다. 이 시리즈의 첫 번째 버전에는 2B 정도의 파라미터 규모를 가진 6종의 모델이 포함되어 있으며, 텍스트, 비주얼, 오디오, omni 모드 및 의사결정 등 다양한 분야를 포괄합니다. 모든 모델은 LFM3-1.7B-Base 기반 아키텍처를 기반으로 하며, 사전 훈련 단계에서 22T의 Token 데이터를 처리했습니다.
혁신적인 삼혼 아키텍처: 매개변수가 적고 효율이 높음
LFM3는 새로운 트라이하이브리드 레이어 믹스 구조를 채택하여 게이트링 단기 콘볼ю션, 슬라이딩 윈도우 어치니티 메커니즘(SWA) 및 전역 어치니티를 유기적으로 통합했습니다. 총 24층 구조 중에서 13층은 콘볼ю션, 5층은 슬라이딩 윈도우 어치니티, 그리고 6층은 전역 어치니티가 포함됩니다.
이전 세대 제품과 비교해 LFM3는 아키텍처 측면에서 전면적인 재설계를 진행했으며, 하드웨어 호환성 테스트 범위도 크게 확장되었습니다. 스마트폰, 래버틴 파이, 노트북 및 다양한 클라우드 CPU, GPU, 퀄코 NPU 등 14종류의 장비와 백엔드 조합을 포함합니다. 테스트 결과에 따르면, 새로운 설계 덕분에 LFM3-1.7B는 짧은 프롬프트 처리에서 이전 세대와 동일한 성능을 유지하면서 8K �텍트 처리 속도가 약 25% 향상되었습니다. 또한 텍스트 모델의 크기는 4비트 양자화 시 약 1GB에 불과하여 엔드사이트 배포의 난이도를 크게 낮췄습니다.
모든 시나리오를 커버하는 다중 모드 및 의사결정 매트릭스
처음으로 출시된 6종의 2B급 모델은 각각 고유한 특징을 가지고 있으며, 다양한 사용 환경에 완벽하게 적합합니다:
텍스트 모델(LFM3-1.7B): 25K에 달하는 컨텍스트 윈도우를 갖추고 있으며, 에이전트(Agent) 워크플로우를 위한 심도 있는 후기 훈련을 거쳤습니다. 여러 기준 테스트에서 그 명령 준수 및 함수 호출 능력이 뛰어나며, 단일 카드로도 원활하게 작동하고 대규모 백그라운드 에이전트의 협업을 지원합니다.
시각 모델(LFM3-VL-2B): 처음으로 비디오 입력 기능을 도입하여, 단계별 깊은 사고, 공간 시각적 추론 및 그래픽 인터페이스 이해를 지원합니다. 새로운 자체 개발된 시각 인코더와 함께, 그 계산 효율은 이전 세대보다 크게 향상되었습니다.
오디오 모델(LFM3-Audio-2B): 18개 언어의 음성 인식, 다중 언어 합성, 오디오 이해 및 실시간 음성 채팅을 지원하며, 완전한 인과 구조를 사용하여 첫 글자의 지연 시간이 50밀리초에 불과합니다.
전체 모달 모델(LFM3-Omni-2B): 시각, 음성, 언어를 단일 모델에 통합한 최초의 모델로, 음성 질문응답, 시청각 비디오 이해 및 모달 간 도구 호출을 지원하여 더욱 자연스러운 인간-기계 상호작용 경험을 제공합니다.
결정 모델(d1-2B 및 d1-Omni-2B): 밀리초 단위의 빠른 결정을 구현하는 데 특화되었으며, 복잡한 텍스트, 이미지 또는 오디오 입력에 대해 정확한 구조화된 결정 결과를 직접 출력할 수 있어 복잡한 클라우드 상호작용을 절약합니다.
특정 분야와 엔드사이트 로봇에 역량을 부여하기
강력한 범용 능력 외에도 LFM3 가족은 설계 초기부터 “특화된 지능”과 쉬운 조정 기능을 강조하고 있습니다. 개발자는 단일 GPU만 사용하여 모델을 저비용으로 조정할 수 있으며, 이를 풍력 발전기 블레이드 결함 검출과 같은 수직 산업 분야에 적용할 수 있습니다. 또한 LoRA 적응 및 엔드투엔드 학습을 통해 LFM3-VL-2B는 로봇 조작, 시각 내비게이션, 다중 모드 지능 제어에 원활하게 통합될 수 있으며, Jetson과 같은 엣지 하드웨어에서 효율적인 실시간 추론을 구현할 수 있습니다.
현재 LFM3 시리즈 모델의 오픈소스 가중치가 공식적으로 출시되었으며, AMD, 퀄코프, 엔비디아, 애플 MLX 및 주요 주류 개발 프레임워크와 플랫폼들의 첫날 지원을 받았습니다.