Medido en un punto de acceso prelanzado @DeepInfra que sirve pesos NVFP4, Nemotron 3.5 Super VL alcanza una velocidad de salida de ~630 tokens/s con prompts de 100k-token. Es el más rápido de todos los modelos que obtienen 20 o más en el Índice de Inteligencia que hemos medido para esta longitud de prompt.
Eso es aproximadamente 5 veces más rápido que Inkling Small (124 tokens/s), aproximadamente 2.7 veces más rápido que Nemotron 3 Ultra (235) y aproximadamente 4.5 veces más rápido que Nemotron 3 Super (140). También devuelve su primer token en 1.8 s, en comparación con 4.4 s para Nemotron 3 Ultra y 8.5 s para Inkling Small.
