AIbaseActualizado el

Ant Group Baiqing (Ling) abre el código de Ling-3.1-flash: la implementación del modelo de nivel 560B baja a 4 tarjetas, con soporte de…

El 15 de octubre, el modelo grande Baiqing (Ling) de Ant Group lanzó como código abierto Ling-3.1-flash, con el lema de "verdaderamente utilizable", mejorado para tareas del mundo real, ayudando a que las necesidades de…

El 15 de octubre, Baiqing (Ling), el modelo grande de Ant Group, anunció el lanzamiento como código abierto de Ling-3.1-flash. Este modelo se centra en ser "verdaderamente utilizable", con mejoras de capacidad orientadas a tareas del mundo real, permitiendo que las necesidades de negocio difusas se conviertan más rápido en resultados utilizables. El modelo de código abierto ofrece descarga de pesos en Hugging Face y ModelScope.

Ling-3.1-flash mantiene la arquitectura lineal híbrida de Ling-3.0-flash, con aproximadamente 560B de parámetros totales y unos 25B de parámetros activados por cada Token; soporta un contexto de hasta 1M. El modelo mantiene un rendimiento de alta calidad en flujos de trabajo complejos como oficina, medicina, ingeniería de software y operaciones de terminal. Ante materiales dispersos, puede ayudar a organizar informes y presentaciones; ante síntomas fragmentados, ayuda a ordenar el historial médico y las preguntas de consulta; ante código antiguo, es capaz de comprender la implementación original, escribir nuevas funcionalidades y seguir corrigiendo según los resultados de las pruebas.

En la evaluación de tareas de oficina GDPVal-AA V2.1, Ling-3.1-flash obtuvo 1673 puntos (ELO). En la evaluación de escenarios médicos HealthBench Professional, el modelo obtuvo una puntuación de 65.35. En el benchmark de ingeniería de software FrontierSWE y en el benchmark de operaciones de terminal Terminal-Bench4.0, el modelo también demostró capacidad para manejar tareas de ingeniería complejas.

Con este lanzamiento de código abierto, Baiqing espera que más equipos puedan desplegar e integrar Ling-3.1-flash en sus propios entornos, incorporando estas capacidades de escenarios en sus propios procesos de negocio.

En el uso diario orientado a tareas reales, los asistentes de conocimiento empresarial y los asistentes de código deben procesar materiales de forma continua, generar contenido y modificar resultados según los comentarios. El modelo debe poseer tanto la capacidad general para manejar estas tareas como mantener una velocidad de respuesta suficientemente rápida en llamadas de múltiples turnos. La "relación inteligencia-eficiencia", como característica central de la serie Baiqing, se mantiene y refuerza aún más a nivel del modelo Ling-3.1-flash.

En las evaluaciones públicas de Artificial Analysis, Ling-3.1-flash tiene un índice de inteligencia de 41 y una velocidad de salida de aproximadamente 210 Token por segundo, ofreciendo doble capacidad de índice de inteligencia y eficiencia de generación para escenarios de negocio de alta frecuencia. Además, el precio de llamada híbrida de Ling-3.1-flash es de aproximadamente 0.19 dólares por millón de Token, situándose en el rango de salida rápida y precio bajo, equilibrando eficiencia de generación y ventaja de costos para escenarios de llamadas de alta frecuencia.

Para el despliegue local, el equipo aplicó cuantización MXFP4 a los routed experts y mantuvo block-FP8 en las capas dense, reduciendo la ocupación de pesos de aproximadamente 534GB a 292GB. En la configuración de prueba correspondiente con GPU Hopper, el despliegue del servicio pasó de 8 tarjetas a 4 tarjetas, permitiendo que los equipos con GPU de nivel servidor ejecuten el modelo con menos tarjetas.

Anteriormente, la serie Ling3.0 ya había realizado prácticas de código abierto en múltiples tipos de dispositivos, cubriendo diversas rutas de despliegue desde servidores hasta computadoras personales y terminales móviles. Por ejemplo, en el lado del servidor, un solo NVIDIA DGX Spark puede ejecutar Ling-3.0-flash para impulsar agentes de codificación que construyan y prueben mini juegos; en el lado de la computadora personal, un MacBook Air de 16GB puede ejecutar Ling-3.0-tiny para crear un asistente local permanente; en el lado móvil, el Galaxy A324G validó un prototipo de inferencia local y enrutamiento de herramientas mediante la versión Tiny GGUF, mientras que el Xiaomi 14T Pro logró conversaciones locales con la versión Tiny gracias a PocketPal.

Según se sabe, los modelos de la serie Ling-3.0 han registrado cerca de 100万 descargas en Hugging Face en los últimos 30 días, y la comunidad ya ofrece diversas versiones adaptadas como Flash GGUF, Tiny GGUF y Flash MLX4bit. Con la apertura del código fuente de Ling-3.1-flash, la serie de modelos Bailing proporciona a los desarrolladores una base de modelos más completa, verificable de forma autónoma y readaptable, lo que también significa que las capacidades del modelo se acercan aún más a la entrega de negocio real, comprimiendo todavía más la cadena que va desde los documentos de requerimientos y los repositorios de código hasta el entorno de producción.

Baiqing, como fuerza de investigación de modelos detrás del desarrollo del negocio de IA de Ant Group, proporciona un soporte importante de capacidades de modelo para aplicaciones de IA de consumo y agentes inteligentes empresariales. A diferencia de la mera búsqueda de escala de parámetros del modelo, Baiqing se centra en llevar las capacidades del modelo a negocios reales para entregar resultados. En campos profesionales complejos como finanzas y medicina, Baiqing ha lanzado sucesivamente modelos mejorados como Ling-3.0-flash-Fin y Ling-3.0-flash-Sante basándose en modelos fundacionales, convirtiendo aún más las capacidades del modelo general en capacidades profesionales dentro de procesos de negocio reales como la investigación de inversiones y la gestión de la salud.

Fuente original

AIbase

Notas sobre el contenido

La publicación original y los derechos pertenecen a la fuente.

Traducción automática · Consulte el original