Points clés
- La startup d'IA Inception a publié Mercury 3, un modèle de langage basé sur la diffusion. Au lieu d'écrire le texte mot par mot, il affine pas à pas une ébauche de la réponse entière. Inception affirme que cela le rend bien plus rapide que les modèles standards.
- Dans les benchmarks internes d'Inception, Mercury 3 génère plus de 1,000 tokens par seconde sur des GPU Nvidia. Il devance des concurrents comme GPT-6 Luna et Claude Haiku 5.5 dans huit des 12 tests.
- Le modèle peut traiter jusqu'à 1 million de tokens à la fois et utilise une API compatible OpenAI. Inception l'a construit principalement pour des applications en temps réel où la vitesse compte, comme les agents IA autonomes, les lunettes connectées et le support client.
Inception affirme que son nouveau modèle de langage, Mercury 3, surpasse GPT-6 Luna et Claude Haiku 5.5 sur une série de benchmarks tout en fonctionnant quatre à huit fois plus vite.
Dans son annonce, l'entreprise qualifie Mercury 3 de modèle de langage à diffusion le plus performant publié à ce jour.
La vitesse provient de la manière dont le modèle est construit. Des modèles comme GPT ou Claude écrivent un mot à la fois, de sorte que chaque nouveau mot doit attendre le précédent. Les modèles de diffusion sont surtout connus grâce à la génération d'images. Ils esquisSENT d'abord une version grossière de la réponse entière, puis l'affinent en plusieurs passes, générant de nombreux mots à la fois. Le rapport technique de Google sur DiffusionGemma explique l'idée de base.
L'avance de Mercury 3 est plus étroite que ne le suggère l'annonce
Le tableau de benchmarks propre à Inception raconte une histoire plus nuancée. Mercury 3 remporte huit des 12 tests, les trois modèles fonctionnant en réglages moyens. L'écart est le plus grand en suivi d'instructions. Sur IFBench, Mercury 3 obtient 76.84 points, 15 de plus que GPT-6 Luna. Il domine aussi nettement en codage autonome sur SWE-Bench Atlas avec 51.08 points, tandis que ses rivaux atteignent 33.33 et 32.26.Publicité
Claude Haiku 5.5 remporte le test de codage plus long DeepSWE. Il est également meilleur pour trouver des informations dans de longs textes. GPT-6 Luna prend l'avantage dans deux tests d'Artificial Analysis. Le court aperçu d'Inception est plus prudent, décrivant la qualité de Mercury 3 comme équivalente ou supérieure.
Selon Inception, Mercury 3 génère 1,068 tokens par seconde sur des GPU Nvidia. Dans la comparaison de l'entreprise, Claude Haiku 5.5 atteint environ 240 et GPT-6 Luna environ 130. Aucun test indépendant n'existe encore.
Inception affirme que Mercury 3 compte plus de 40 fois plus de paramètres que Mercury 1 mais fonctionne tout aussi vite. Les performances ont également triplé depuis le petit Mercury 1 mini. Inception y voit un signe que les modèles de diffusion s'améliorent de manière fiable à mesure qu'ils grandissent, tout comme les modèles de langage standards. Le nombre exact de paramètres reste non divulgué.
Mercury 3 cible les applications où les petits retards s'accumulent
Inception promeut Mercury 3 principalement pour les agents IA, la recherche, le support client et le tutorat. Les agents IA accomplissent des tâches en de nombreuses étapes distinctes et attendent le modèle à chacune. Ces petits retards s'accumulent rapidement.Publicité
Les partenaires en accès anticipé partagent leurs résultats dans l'annonce, et la plupart se concentrent aussi sur la vitesse. Octen AI développe des fonctionnalités de recherche pour les lunettes connectées. « Sur des lunettes connectées, une réponse qui prend cinq secondes semble défectueuse », déclare le fondateur Kuan Zou. Il précise que la recherche elle-même n'a pris qu'environ 80 millisecondes, et que le modèle de langage était le goulot d'étranglement. Avec Mercury 3, la réponse médiane est arrivée après 0.9 seconde. Le processus complet a pris 2.2 secondes.
L'entreprise d'éducation General Learning indique qu'elle livre désormais des indices et des corrections aux étudiants en environ une seconde. Le fournisseur de service client Lorikeet rapporte des temps de réponse plus rapides ainsi que de meilleurs résultats. Chez TinyFish AI, le cofondateur Shuhao Zhang déclare que Mercury 3 s'est vu confier 50 tâches de navigation sur de vrais sites web. Il en a résolu 25, battant GPT-6.1-Sol. Zhang ne donne pas de chiffre pour le modèle d'OpenAI.
Le prix de lancement bas de Mercury 3 ne durera peut-être pas
Le tarif normal est de $0.20 par million de tokens d'entrée et $0.70 par million de tokens de sortie. Inception réduit les prix de moitié au lancement. Il n'a pas dit quand la remise prend fin. Après cela, Mercury 3 coûterait plus cher en sortie que GPT-6 Luna et Claude Haiku 5.5, du moins pour les entrées plus courtes, où tous deux facturent $0.50. Pour les très longs prompts, cependant, les deux rivaux facturent bien plus cher. Mercury 3 peut gérer jusqu'à 1 million de tokens à la fois.
Le modèle est disponible sur la plateforme propre d'Inception ainsi que sur OpenRouter, Baseten et Vercel. Il utilise la même API que les modèles d'OpenAI, de sorte qu'Inception affirme que les développeurs peuvent basculer avec peu d'efforts.
En février, Inception a publié Mercury 2, qu'elle a présenté comme le premier modèle de diffusion à raisonner par étapes intermédiaires avant de répondre. Avant cela, la startup avait levé 50 millions de dollars. Parmi les investisseurs figurent NVentures, M12 et Snowflake Ventures, les branches de capital-risque de Nvidia, Microsoft et Snowflake.
Google travaille sur la même approche. Sa démo de Gemini Diffusion a été suivie en juin par le modèle ouvert DiffusionGemma. Google indique qu'il fonctionne jusqu'à quatre fois plus vite que le Gemma 4 standard mais offre des résultats légèrement inférieurs.
Source : Inception Labs / Mercury 3