NVIDIA lance Nemotron 3.5 Super et Nemotron 3.5 Bolt
Voir la page du modèleLe Nemotron 3.5 Super VL de Nvidia est désormais le meilleur modèle open weight américain, avec un score de 26 à l'Artificial Analysis Intelligence Index
Nemotron 3.5 Super VL atteint une intelligence deux fois supérieure à celle de son prédécesseur, Nemotron 3 Super (13), tout en utilisant environ 60 % de tokens de sortie en moins par tâche
Il est lancé aux côtés de Nemotron 3.5 Bolt 74B-A9B, le premier modèle de sa nouvelle famille Bolt, qui obtient un score de 21 à l'Intelligence Index
Points clés :
➤ Meilleur modèle open weight américain : Nemotron 3.5 Super VL obtient un score de 26.5, dépassant Inkling Small de Thinking Machines (25.7) et devançant Nemotron 3 Ultra de NVIDIA (23) et Muse Glimmer de Meta (17)
➤ Bolt à moins de 2 points d'Ultra : Nemotron 3.5 Bolt 74B-A9B obtient un score de 21, à 1.5 point derrière Nemotron 3 Ultra 550B A55B (23). Il compte environ un septième des paramètres totaux d'Ultra (74B contre 550B) et un sixième de ses paramètres actifs (9B contre 55B)
➤ Super 3.5 quasi sans perte en NVFP4 : Nemotron 3.5 Super VL est publié en NVFP4, avec un score à moins de 0.1 point de ses poids BF16 sur l'Intelligence Index, aucun composant ne bougeant de plus de 2.6 points
Détails de Nemotron 3.5 Super VL
- Fenêtre de contexte : 1M de tokens
- Modalités : Entrée vision et texte ; sortie texte
- Paramètres: 120B / 12B
Détails de Nemotron 3.5 Bolt 74B-A9B
- Fenêtre de contexte : 256k tokens
- Modalités: Entrée vision et texte ; sortie texte
- Paramètres: 74B / 9B
Nemotron 3.5 Super - Leader américain des open weights
Nemotron 3.5 Super VL est le modèle open weights le mieux noté des États-Unis, avec 26 à l'Intelligence Index. Il dépasse Inkling Small de Thinking Machines (26) et surpasse le précédent fleuron de NVIDIA, Nemotron 3 Ultra (23), ainsi que Muse Glimmer de Meta (17)
Malgré cette avancée, les États-Unis restent derrière les Émirats arabes unis (K2 Horizon 375B A23B, 31) et la Chine (MiMo-V2.6-Pro, 46) en matière d'intelligence des open weights.
Nemotron 3.5 Super - Utilisation des tokens
Nemotron 3.5 Super VL utilise 46k tokens de sortie par tâche de l'Intelligence Index, soit environ 60% de moins que son prédécesseur Nemotron 3 Super (114k) et moins que K2 Horizon 375B A23B (52k) et MiMo-V2.6-Pro (64k)
Malgré une nette amélioration de l'efficacité en tokens, Nemotron 3.5 Super reste encore loin derrière la frontière Intelligence Index vs. Output Tokens per Task
Nemotron 3.5 Super - Vitesse de sortie
Mesuré sur un endpoint pré-lancement de @DeepInfra servant les poids NVFP4, Nemotron 3.5 Super VL atteint une vitesse de sortie d'environ 630 tokens/s avec des invites de 100k tokens. C'est le plus rapide de tous les modèles scorant 20 ou plus à l'Intelligence Index que nous ayons mesuré à cette longueur d'invite
C'est environ 5x Inkling Small (124 tokens/s), 2,7x Nemotron 3 Ultra (235) et environ 4,5x Nemotron 3 Super (140). Il renvoie également son premier token en 1,8s, contre 4,4s pour Nemotron 3 Ultra et 8,5s pour Inkling Small
Nemotron 3.5 Bolt
Nemotron 3.5 Bolt 74B-A9B est le premier modèle de la nouvelle famille Bolt de NVIDIA. Il obtient 21.4 à l'Intelligence Index, se classant 4e parmi les modèles de moins de 100B paramètres et premier parmi les modèles américains dans cette catégorie
Bolt obtient 8.6 points de plus que Nemotron 3 Super (12.8) avec 39% de paramètres totaux en moins. Face à Nemotron 3 Ultra, il domine sur AutomationBench-AA (15.5% contre 3.0%) et AA-Briefcase (912 contre 874 Elo), mais est en retrait sur AA-LCR (70% contre 79%) et Humanity's Last Exam (25% contre 28%)
Nemotron 3.5 Bolt - Utilisation des tokens
Nemotron 3.5 Bolt 74B-A9B utilise 82k tokens de sortie par tâche de l'Intelligence Index, soit 1,8x Nemotron 3.5 Super VL (46k) et 2,9x Nemotron 3 Ultra (28k), mais reste 28 % de moins que Nemotron 3 Super (114k)
