Recientemente, la conocida empresa de innovación en IA Liquid AI lanzó oficialmente una nueva generación de modelos básicos: LFM3. La primera versión de esta serie incluye seis modelos con un tamaño de parámetros de aproximadamente 2B, cubriendo diversas dimensiones como texto, visión, audio, omni y toma de decisiones. Todos estos modelos se basan en la arquitectura LFM3-1.7B-Base, y durante el proceso de preentrenamiento se procesaron hasta 22T de datos de tokens.
Estructura híbrida avanzada: menos parámetros, mayor eficiencia
LFM3 utiliza una nueva estructura de tres capas híbridas (Tri-hybrid layer mix), que integra de manera orgánica el gating short convolution, el mecanismo de atención con ventana deslizante (SWA) y la atención global. En la estructura total de 24 capas, hay 13 capas de convolución, 5 capas de atención con ventana deslizante y 6 capas de atención global.
En comparación con la generación anterior de productos, el LFM3 ha sido completamente reestructurado en términos de arquitectura y ha ampliado significativamente el alcance de los tests de adaptación de hardware. Cubre 14 combinaciones de dispositivos y servidores, como teléfonos móviles, Raspberry Pi, laptops y diversas CPU, GPU y高通 NPU en la nube. Los tests demuestran que, gracias a su diseño completamente nuevo, el LFM3-1.7B no solo mantiene el mismo rendimiento con prompts cortos que la generación anterior, sino que su velocidad al procesar contextos de 8K aumenta aproximadamente un 25%. Además, su modelo de texto ocupa aproximadamente 1 GB en cuantización de 4 bits, lo que reduce enormemente el umbral para la implementación en el lado del dispositivo.
Matriz multimodal y de toma de decisiones que abarca todas las escenarios
Los seis modelos de nivel 2B lanzados inicialmente tienen cada uno sus propias características, y se adaptan perfectamente a diferentes escenarios de uso.
Modelo de texto (LFM3-1.7B): cuenta con una ventana de contexto de hasta 25K, y ha sido entrenado en profundidad para flujos de trabajo de agentes. En varios pruebas de referencia, su capacidad para seguir instrucciones y llamadas a funciones es destacada; puede funcionar sin problemas con una sola tarjeta y soporta la colaboración de numerosos agentes en segundo plano.
Modelo visual (LFM3-VL-2B): Se introdujo por primera vez la capacidad de entrada de video, lo que permite el pensamiento profundo paso a paso, el razonamiento visual espacial y la comprensión de interfaces gráficas. Junto con un nuevo codificador visual desarrollado por el propio sistema, su eficiencia computacional ha aumentado significativamente en comparación con la generación anterior.
Modelo de audio (LFM3-Audio-2B): soporta reconocimiento de voz en 18 idiomas, síntesis multilingüe, comprensión de audio y chateo vocal en tiempo real. Utiliza una arquitectura completamente causal, con un retraso del primer carácter de tan solo 50 milisegundos.
Modelo totalmente modal (LFM3-Omni-2B): Por primera vez, combina visión, audio y lenguaje en un único modelo, lo que permite la respuesta preguntas-voz, la comprensión de videos audiovisuales y la llamada a herramientas cross-modal, ofreciendo una experiencia de interacción entre humano y máquina más natural.
Modelo de toma de decisiones (d1-2B y d1-Omni-2B): Diseñado específicamente para implementar decisiones rápidas en milisegundos. Permite obtener resultados de decisión estructurados precisos directamente para entradas de texto complejo, imágenes o audio, eliminando la necesidad de interacciones complejas en la nube.
Empoderar campos verticales y robots de nivel terminal
Además de las poderosas capacidades generales, la familia LFM3 ha enfatizado desde su diseño el “inteligencia especializada” y las características de fácil ajuste. Los desarrolladores solo necesitan utilizar un GPU único para realizar ajustes económicos en los modelos, lo que les permite aplicarlos en campos industriales verticales como la detección de defectos en las palas de generadores eólicos. Además, mediante la adaptación LoRA y el entrenamiento de punta a punta, LFM3-VL-2B puede integrarse sin problemas en operaciones robóticas, navegación visual y control de inteligencia embarcada multimodal, logrando un razonamiento en tiempo real eficiente en hardware periférico como Jetson.
Actualmente, los pesos de fuente abierta de la serie de modelos LFM3 han sido lanzados oficialmente y han recibido el soporte del primer día de empresas como AMD, Qualcomm, NVIDIA, Apple MLX, así como de los principales marcos y plataformas de desarrollo.