In letzter Zeit hat das bekannte AI-Innovationsunternehmen Liquid AI offiziell die neue Generation der Grundmodellen – LFM3 – veröffentlicht. Die erste Version dieser Serie umfasst sechs Modelle mit einer Parametergröße von etwa 2B. Sie decken verschiedene Bereiche wie Text, Bild, Audio, Omni-Modale und Entscheidungen ab und basieren alle auf der Infrastruktur LFM3-1.7B-Base. Während des Vortrainings wurden bis zu 22T Token-Daten verarbeitet.
Brechendes dreifach gemischtes Architekturdesign: weniger Parameter, höhere Effizienz
Das LFM3 verwendet eine völlig neue Tri-hybrid-Layer-Mix-Struktur, die Gated Short Convolution, den Sliding Window Attention Mechanism (SWA) und die globale Attention organisch miteinander verbindet. In der Gesamtzahl von 24 Schichten umfasst es 13 Konvolutionsschichten, 5 Sliding Window Attention-Schichten und 6 globale Attention-Schichten.
Im Vergleich zu der vorherigen Generation hat das LFM3 auf architekturaler Ebene eine umfassende Umgestaltung durchgeführt und den Bereich der Hardware-Anpassungstests erheblich erweitert. Es umfasst 14 verschiedene Geräte und Backend-Kombinationen wie Handys, Raspberry Pi, Laptops sowie verschiedene Cloud-CPUs, GPU und Qualcomm NPU. Tests zeigen, dass das LFM3-1.7B dank des neuen Designs nicht nur bei kurzen Prompten mit der Vorgeneration identisch ist, sondern bei der Verarbeitung von 8K-Kontexten die Geschwindigkeit um etwa 25% erhöht. Gleichzeitig beträgt das Volumen des Textmodells unter 4-Bit-Quantisierung nur etwa 1 GB, was die Einrichtung am Endgerät erheblich vereinfacht.
Die Multimodale und Entscheidungsmatrix, die alle Szenarien abdeckt
Die sechs erstmals veröffentlichten 2B-Modelle haben jeweils ihre eigenen Merkmale und eignen sich perfekt für unterschiedliche Anwendungsszenarien:
Textmodell (LFM3-1.7B): Hat eine Kontextfenstergröße von bis zu 25K und wurde für den Workflow eines Agenten tiefgehend trainiert. In mehreren Benchmark-Tests zeigt seine Fähigkeit, Anweisungen zu befolgen und Funktionen aufzurufen, herausragende Leistungen; es kann auf einer einzigen Karte flüssig laufen und unterstützt die Zusammenarbeit zahlreicher Hintergrund-Agenten.
Visuelles Modell (LFM3-VL-2B): Erste Einführung der Video-Eingabefunktion, unterstützt schrittweise tiefe Denkprozesse, räumliche visuelle Schlussfolgerungen und das Verständnis von grafischen Benutzeroberflächen. In Kombination mit einem neuen, selbst entwickelten visuellen Koderer erhöht sich die Recheneffizienz deutlich im Vergleich zur vorherigen Generation.
Audio-Modell (LFM3-Audio-2B): Unterstützt Spracherkennung in 18 Sprachen, Multilinguale synthese, Audioverständnis und Echtzeitgespräche. Es verwendet eine vollständig kausale Architektur, wobei die Verzögerung des ersten Wortes auf bis zu 50 Millisekunden reduziert ist.
Vollmodale Modell (LFM3-Omni-2B): Für das erste Mal werden visuelle, akustische und sprachliche Komponenten in einem einzigen Modell kombiniert. Es unterstützt Sprachfragen, die Verarbeitung audiovisueller Videos sowie crossmodale Tool-Kallweise und bietet eine natürlichere Interaktion zwischen Mensch und Maschine.
Entscheidungsmodell (d1-2B und d1-Omni-2B): Speziell für die Umsetzung schneller Entscheidungen im Millisekundenbereich entwickelt. Es kann auf Basis komplexer Text-, Bild- oder Audioinhalte direkt präzise strukturierte Entscheidungsergebnisse liefern und die komplizierte Interaktion mit dem Cloud-System vermeiden.
Stärkung von vertikalen Bereichen und Endgeräterobotern
Neben den starken allgemeinen Fähigkeiten betont die LFM3-Familie von der Entwicklungsphase an „spezifische Intelligenz“ und die Einfachheit der Anpassung. Entwickler können das Modell mit nur einem GPU kostengünstig anpassen und es in vertikale Industriebereiche wie die Detektion von Defekten an Windkraftturbinenschaufeln einsetzen. Darüber hinaus ermöglicht die LoRA-Anpassung und der End-to-End-Lernprozess den LFM3-VL-2B einen nahtlosen Einstieg in robotische Operationen, visuelle Navigation und multimodale körperbasierte Intelligenzsteuerung, was effizientes Echtzeit-Schlussfolgern auf Edge-Hardware wie Jetson ermöglicht.
Der offene Gewichtmodell-Satz der LFM3-Serie ist nun offiziell verfügbar und hat bereits die erste Unterstützung von AMD, Qualcomm, NVIDIA, Apple MLX sowie den wichtigsten Entwicklungsframeworks und Plattformen erhalten.