AIbasePublication de la source

LongCat de Meituan publie LongCat-2.5 : un modèle multimodal natif de 1.6 billion de paramètres

Meituan Longmao (龙猫) LongCat a publié le 2 novembre (11/2) LongCat-2.5, un modèle multimodal natif positionné pour les tâches d'agents intelligents à long terme, avec une quantité totale de 1.6 万亿 de paramètres et environ 480 亿 de paramètres activés par token, renforçant les capacités de compréhension visuelle native et de programmation d'agents sur la base de LongCat-2.0.

Meituan Longmao (龙猫) LongCat a publié le 2 novembre (11/2) LongCat-2.5, un modèle multimodal natif positionné pour les tâches d'agents intelligents à long terme, avec une quantité totale de 1.6 万亿 de paramètres et environ 480 亿 de paramètres activés par token, renforçant les capacités de compréhension visuelle native et de programmation d'agents sur la base de LongCat-2.0. L'expérience en ligne et l'accès à l'API sont déjà ouverts, et les poids sur GitHub et HuggingFace seront bientôt disponibles.

Sur le plan technique, LongCat-2.5 représente les signaux visuels sous forme de tokens discrets multi-niveaux, réutilisant l'encodeur d'alignement sémantique de LongCat-Next avec une quantification vectorielle résiduelle ; la discrétisation à résolution native et la pré-computation hors ligne des tokens visuels permettent au backbone de traiter de manière unifiée les entrées visuelles et textuelles, les embeddings du codebook visuel étant appris conjointement avec le backbone, avec une validation de l'imbrication de l'espace sémantique sur un MoE activant environ 3B.

Les capacités agentiques s'appuient sur une chaîne Agentic RL : un pipeline de synthèse de données génère automatiquement des tâches d'entraînement, des environnements interactifs et des cas de test vérifiables, issus de GitHub et de scénarios internes, avec des vérifications fail-to-pass et pass-to-pass ; côté entraînement, une stratégie asynchrone de partial rollout atténue l'inefficacité des longues trajectoires et supprime l'obsolescence des échantillons, tandis que la coupure réseau, la suppression de l'historique git et la supervision par LLM judge contraignent le reward hacking, et un entraînement mixte inter-tâches et inter-Scaffolds favorise la généralisation.

L'infrastructure est optimisée pour les restrictions des calculs domestiques dont les cartes mono-GPU ont moins de 80 Go de mémoire, avec un parallélisme supernœud et un FSDP à double sharding ; le débit en SFT sur longues séquences en mono-GPU a augmenté de 86 % par rapport à la baseline DDP. Côté inférence, la solution W4A4 quantifie simultanément les poids d'experts et les activations en 4bit ; par rapport à la baseline W8A8INT8, les débits Prefill et Decode augmentent respectivement de 43,3 % et 42,77 %, le TTFT et le TPOT diminuent respectivement de 15,91 % et 19,72 %, et l'opérateur GMM bénéficie d'une accélération moyenne de 1,73 fois.

Dans les évaluations, LongCat-2.5 obtient 88,4 et 38,5 sur Terminal Bench v2.1 et v4.0, 51,8 sur AutomationBench, 91,9 sur BrowseComp, 25,5 sur Program Bench, 83,1 sur MCP Atlas et 55,4 sur 3DCodeBench, dépassant notamment sur Terminal Bench v4.0 le score de 37,3 de GPT-5.6-Sol ; côté vision, 78,6 sur Vision2Web et 96,5 sur MathVision.

Avec son architecture multimodale native et une pile entièrement développée en interne sur des calculs domestiques, il s'engage dans la compétition des agents à long horizon, prolongeant la tendance des grands modèles qui passe de la course aux paramètres à l'efficacité réelle sur les tâches.

Pour plus de détails, voir le blog technique officiel : https://longcat.ai/blog/longcat-2.5.

Source originale

AIbase

À propos du contenu

La publication originale et les droits appartiennent à la source.

Traduction automatique · Consultez l’original