Le 15 octobre, le grand modèle Ling, filiale du groupe Ant, a annoncé la publication en open source de Ling-3.1-flash. Ce modèle met l'accent sur l'« utilité réelle », avec une montée en compétences orientée vers les tâches du monde réel, permettant de transformer plus rapidement des besoins métier flous en résultats utilisables. Le modèle open source propose le téléchargement de ses poids sur Hugging Face et ModelScope.
Ling-3.1-flash conserve l'architecture linéaire hybride de Ling-3.0-flash, avec environ 560B de paramètres totaux et environ 25B de paramètres activés par Token ; il prend en charge un contexte allant jusqu'à 1M. Le modèle maintient des performances de haute qualité dans des flux de travail complexes tels que la bureautique, la santé, le génie logiciel et les opérations en terminal. Face à des documents dispersés, il peut aider à organiser rapports et supports de présentation ; face à des symptômes épars, il aide à reconstituer les antécédents médicaux et les questions de consultation ; face à d'anciens codes, il sait comprendre l'implémentation existante, écrire de nouvelles fonctionnalités et poursuivre les corrections en fonction des résultats des tests.
Dans l'évaluation des tâches de bureautique GDPVal-AA V2.1, Ling-3.1-flash a obtenu un score de 1673 (ELO). Dans l'évaluation des scénarios médicaux HealthBench Professional, le modèle a obtenu un score de 65.35. Dans les benchmarks de génie logiciel FrontierSWE et d'opérations en terminal Terminal-Bench4.0, le modèle a également démontré sa capacité à traiter des tâches d'ingénierie complexes.
Par cette publication en open source, Ling espère que davantage d'équipes pourront déployer et intégrer Ling-3.1-flash dans leur propre environnement, et intégrer ces capacités applicatives dans leurs processus métier.
Au quotidien, lorsqu'ils sont confrontés à des tâches réelles, les assistants de connaissance d'entreprise et les assistants de code doivent souvent traiter des documents en continu, générer du contenu et modifier les résultats en fonction des retours. Le modèle doit non seulement posséder les capacités générales pour accomplir ces tâches, mais aussi maintenir une réponse suffisamment rapide lors des appels multi-tours. Le « ratio intelligence-efficacité », caractéristique centrale de la série de modèles Ling, se poursuit et se renforce au niveau du modèle Ling-3.1-flash.
Dans les évaluations publiques d'Artificial Analysis, Ling-3.1-flash affiche un indice d'intelligence de 41 et une vitesse de sortie d'environ 210 Token par seconde, offrant une double capacité d'indice d'intelligence et d'efficacité de génération pour les scénarios métier à haute fréquence. Par ailleurs, le prix d'appel mixte de Ling-3.1-flash est d'environ 0.19 dollar par million de Token, se situant dans la fourchette d'une sortie rapide à prix réduit, conciliant efficacité de génération et avantage de coût pour les scénarios d'appels à haute fréquence.
Concernant le déploiement local, l'équipe a appliqué une quantification MXFP4 aux routed experts tout en conservant le block-FP8 pour les couches denses, faisant passer l'occupation des poids d'environ 534GB à 292GB. Dans la configuration de test Hopper GPU correspondante, le déploiement du service est passé de 8 cartes à 4 cartes, permettant aux équipes disposant de GPU de niveau serveur de faire tourner le modèle avec un nombre réduit de cartes.
Auparavant, la série Ling3.0 avait déjà mené des pratiques d'open source sur de multiples types d'appareils, couvrant diverses voies de déploiement allant des serveurs aux ordinateurs personnels et aux terminaux mobiles. Par exemple côté serveur, un seul NVIDIA DGX Spark peut faire tourner Ling-3.0-flash, pour piloter des agents de codage construisant et testant de petits jeux ; côté ordinateur personnel, un MacBook Air de 16GB peut faire tourner Ling-3.0-tiny pour mettre en place un assistant local permanent ; côté mobile, le Galaxy A324 a validé un prototype d'inférence locale et de routage d'outils via la version Tiny GGUF, tandis que le Xiaomi 14T Pro a réalisé des conversations locales avec la version Tiny grâce à PocketPal.
Selon les informations disponibles, les modèles de la série Ling-3.0 ont été téléchargés près de 100万 fois sur Hugging Face au cours des 30 derniers jours, et la communauté propose déjà plusieurs versions adaptées telles que Flash GGUF, Tiny GGUF et Flash MLX4bit. Avec la publication en open source de Ling-3.1-flash, la série de modèles Ling offre aux développeurs une base de modèles plus complète, vérifiable de manière autonome et adaptable une seconde fois, signifiant également que les capacités des modèles se rapprochent davantage de la livraison métier réelle, en continuant de comprimer la chaîne allant des documents de besoins et des dépôts de code jusqu'à l'environnement de production.
En tant que force de recherche en modèles derrière le développement de l'activité IA du groupe Ant, Ling fournit un soutien essentiel en capacités de modèles aux applications d'IA grand public et aux agents intelligents d'entreprise. Contrairement à la simple poursuite de la taille des paramètres des modèles, Ling se concentre sur l'apport des capacités des modèles dans les affaires réelles pour y livrer des résultats. Dans des domaines professionnels complexes tels que la finance et la santé, Ling a déjà lancé, sur la base de ses modèles fondamentaux, des modèles améliorés tels que Ling-3.0-flash-Fin et Ling-3.0-flash-Sante, transformant davantage les capacités des modèles généraux en compétences professionnelles au sein de processus métier réels tels que la recherche en investissement et la gestion de la santé.