Gemessen am vorveröffentlichten @DeepInfra-Endpunkt, der NVFP4-Werte bereitstellt, erreicht Nemotron 3.5 Super VL eine Ausgabengeschwindigkeit von ~630 Tokens/s bei 100k-Token-Prompts. Das ist die schnellste Leistung aller Modelle, die auf dem Intelligence Index 20 oder mehr Punkte erreichen, die wir bei dieser Promptenlänge gemessen haben.
Das ist etwa 5x so schnell wie Inkling Small (124 Tokens/s), etwa 2,7x so schnell wie Nemotron 3 Ultra (235) und etwa 4,5x so schnell wie Nemotron 3 Super (140). Es gibt auch das erste Token in 1,8 Sekunden – im Vergleich zu 4,4 Sekunden für Nemotron 3 Ultra und 8,5 Sekunden für Inkling Small.
