Mesuré sur un point d’entrée pré-lancement @DeepInfra fournissant les poids NVFP4, Nemotron 3.5 Super VL atteint une vitesse de sortie de ~630 tokens/s avec des prompts de 100k-tokens. C’est la plus rapide parmi tous les modèles qui obtiennent 20 ou plus sur l’Indice d’Intelligence que nous avons mesuré pour cette longueur de prompt.
Cela représente environ 5 fois Inkling Small (124 tokens/s), environ 2,7 fois Nemotron 3 Ultra (235) et environ 4,5 fois Nemotron 3 Super (140). Il renvoie également son premier token en 1,8 s, contre 4,4 s pour Nemotron 3 Ultra et 8,5 s pour Inkling Small
