AIbase出典公開日

Liquid AIがLFM3多モーダルモデルファミリーを発表、効率的な専用インテリジェンスを重点的に提供

最近、有名なAIイノベーション企業であるLiquid AIは、新世代の基礎モデルファミリー——LFM3を正式に発表しました。このシリーズの最初のバージョンには、2B程度のパラメータ規模を持つ6種類のモデルが含まれており、テキスト、ビジュアル、オーディオ、全モダリティ(omni)および意思決定など、多くの分野を網羅しています。

最近、有名なAIイノベーション企業であるLiquid AIは、新世代の基礎モデルファミリー——LFM3を正式に発表しました。このシリーズの最初のバージョンには、2B程度のパラメータ規模を持つ6種類のモデルが含まれており、テキスト、ビジュアル、オーディオ、全モダリティ(omni)および意思決定など、多くの分野を網羅しています。すべてはLFM3-1.7B-Baseの基盤構造に基づいており、事前訓練段階で22TのTokenデータを処理しました。

画期的な三種混合アーキテクチャ:パラメータが少なく、効率が高い

LFM3は新しい三混合層構造(Tri-hybrid layer mix)を採用しており、ゲート短畳み畳込み、スライドウィンドウ注意機構(SWA)、およびグローバル注意を有機的に融合している。合計24層の構造の中に、13層の畳込み、5層のスライドウィンドウ注意、そして6層のグローバル注意が含まれている。

前世代製品と比べて、LFM3はアーキテクチャ面で全面的な再構築が行われ、ハードウェア対応テストの範囲も大幅に拡大されました。スマートフォン、ラズパイ、ノートパソコン、および各種クラウド用CPU、GPU、高通NPUなど14種類のデバイスと後端環境が対象となります。テスト結果によると、新しい設計により、LFM3-1.7Bは短いヒントワードの処理において前世代と同じ性能を維持するだけでなく、8Kのコンテキスト処理時の速度も約25%向上しています。また、4ビット量化下でのテキストモデルのサイズは約1GBに抑えられており、端末側でのデプロイのハードルが大幅に低減されています。

すべてのシナリオをカバーする多モーダルと意思決定マトリックス

初登場の6種類の2Bクラスモデルはそれぞれ特徴があり、様々な使用シーンに理想的に適合します:

テキストモデル(LFM3-1.7B):25Kに達するコンテキストウィンドウを持ち、アグエントのワークフローに対して深層後方推論を実施した。複数のベンチマークテストにおいて、指示の遵守と関数呼び出し能力が優れており、単一カードで円滑に動作し、大量のバックグラウンドアグエントの協調をサポートする。

視覚モデル(LFM3-VL-2B):初めてビデオ入力機能を導入し、段階的な深い思考、空間視覚的推論、およびグラフィックインターフェースの理解をサポートする。新しい独自開発の視覚エンコーダーと組み合わせることで、計算効率が前世代より大幅に向上している。

音声モデル(LFM3-Audio-2B):18言語の音声認識、マルチリンガル合成、音声理解、リアルタイム音声チャットをサポートし、完全な因果構造を採用しており、最初の文字の遅延は50ミリ秒にまで低い。

全モダルモデル(LFM3-Omni-2B):初めて視覚、音声、言語を一つのモデルに統合し、音声クエリ回答、視聴覚ビデオ理解、およびクロスモダルツール呼び出しをサポートすることで、より自然な人間とコンピュータのインタラクション体験を実現する。

決定モデル(d1-2B と d1-Omni-2B):ミリ秒レベルの迅速な決定を実現するために特化しており、複雑なテキスト、画像、または音声入力に対して直接、正確な構造化された決定結果を出力することができ、面倒なクラウド間の相互作用を省くことができる。

垂直分野と端末型ロボットを支援する

強力な汎用能力に加えて、LFM3ファミリーは設計の初期段階から「専用スマート」と容易な調整特性を重視している。開発者は一枚のGPUのみを使用してモデルを低コストで微調整することができ、これを風力発電機のブレード欠陥検出などの垂直産業分野に応用できる。さらに、LoRA適応と端到端学習を通じて、LFM3-VL-2Bはロボット操作、視覚ナビゲーション、多モーダル身体化スマートコントロールにシームレスに統合され、Jetsonなどのエッジハードウェア上で効率的なリアルタイム推論を実現する。

現在、LFM3シリーズモデルのオープンソースウェイトが正式に公開され、AMD、Qualcomm、NVIDIA、Apple MLX、および主要な開発フレームワークやプラットフォームからの初日サポートを得ている。

原文の出典

AIbase

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください