NVIDIA lanza Nemotron 3.5 Super VL y Nemotron 3.5 Bolt 74B A9B

NVIDIA lanza Nemotron 3.5 Super y Nemotron 3.5 Bolt

Nemotron 3.5 Super VL de Nvidia es ahora el modelo de pesos abiertos líder de EE. UU., con una puntuación de 26 en el Índice de Inteligencia de Artificial Analysis

Nemotron 3.5 Super VL logra el doble de inteligencia que su predecesor, Nemotron 3 Super (13), y lo hace usando ~60% menos tokens de salida por tarea

Se lanza junto con Nemotron 3.5 Bolt 74B-A9B, el primer modelo de su nueva familia Bolt, que obtiene una puntuación de 21 en el Índice de Inteligencia

Puntos clave:

➤ Modelo de pesos abiertos líder de EE. UU.: Nemotron 3.5 Super VL obtiene 26.5, superando por poco a Inkling Small de Thinking Machines (25.7) y por delante de Nemotron 3 Ultra de NVIDIA (23) y Muse Glimmer de Meta (17)

➤ Bolt se sitúa a menos de 2 puntos de Ultra: Nemotron 3.5 Bolt 74B-A9B obtiene 21, 1.5 puntos por detrás de Nemotron 3 Ultra 550B A55B (23). Tiene aproximadamente una séptima parte de los parámetros totales de Ultra (74B frente a 550B) y una sexta parte de sus parámetros activos (9B frente a 55B)

➤ Super 3.5 casi sin pérdidas en NVFP4: Nemotron 3.5 Super VL se lanza en NVFP4, con una puntuación a menos de 0.1 puntos de sus pesos BF16 en el Índice de Inteligencia, sin que ningún componente varíe más de 2.6 puntos

Detalles de Nemotron 3.5 Super VL

• Ventana de contexto: 1M de tokens
• Modalidades: Entrada de visión y texto; salida de texto
• Parámetros: 120B / 12B

Detalles de Nemotron 3.5 Bolt 74B-A9B

• Ventana de contexto: 256k tokens
• Modalidades: Entrada de visión y texto; salida de texto
• Parámetros: 74B / 9B

Nemotron 3.5 Super - Líder de Pesos Abiertos de EE. UU.

Nemotron 3.5 Super VL es el modelo de pesos abiertos con la puntuación más alta de EE. UU., con 26 en el Índice de Inteligencia. Supera por poco a Inkling Small de Thinking Machines (26) y sobrepasa al anterior buque insignia de NVIDIA, Nemotron 3 Ultra (23), y a Muse Glimmer de Meta (17)

A pesar del avance, EE. UU. sigue por detrás de los Emiratos Árabes Unidos (K2 Horizon 375B A23B, 31) y de China (MiMo-V2.6-Pro, 46) en inteligencia de pesos abiertos.

Nemotron 3.5 Super - Uso de Tokens

Nemotron 3.5 Super VL utiliza 46k tokens de salida por tarea del Intelligence Index, un ~60% menos que su predecesor Nemotron 3 Super (114k) y menos que K2 Horizon 375B A23B (52k) y MiMo-V2.6-Pro (64k)

A pesar de un claro aumento en la eficiencia de tokens, Nemotron 3.5 Super todavía queda algo atrás en la frontera de Intelligence Index vs. Tokens de Salida por Tarea

Nemotron 3.5 Super - Velocidad de salida

Medido en un endpoint de prelanzamiento de @DeepInfra que sirve pesos NVFP4, Nemotron 3.5 Super VL alcanza una velocidad de salida de ~630 tokens/s con prompts de 100k tokens. Es el más rápido de cualquier modelo con una puntuación de 20 o más en el Intelligence Index que hayamos medido a esta longitud de prompt

Eso es ~5 veces Inkling Small (124 tokens/s), ~2.7 veces Nemotron 3 Ultra (235) y ~4.5 veces Nemotron 3 Super (140). También devuelve su primer token en 1.8s, frente a 4.4s de Nemotron 3 Ultra y 8.5s de Inkling Small

Nemotron 3.5 Bolt

Nemotron 3.5 Bolt 74B-A9B es el primer modelo de la nueva familia Bolt de NVIDIA. Obtiene 21.4 en el Intelligence Index, lo que lo coloca en el 4º puesto entre los modelos de menos de 100B parámetros y en primer lugar entre los modelos de EE. UU. en esa clase

Bolt obtiene 8.6 puntos por encima de Nemotron 3 Super (12.8) con un 39% menos de parámetros totales. Frente a Nemotron 3 Ultra, lidera en AutomationBench-AA (15.5% vs 3.0%) y AA-Briefcase (912 vs 874 Elo), pero queda atrás en AA-LCR (70% vs 79%) y Humanity's Last Exam (25% vs 28%)

Nemotron 3.5 Bolt - Uso de tokens

Nemotron 3.5 Bolt 74B-A9B usa 82k tokens de salida por tarea del Intelligence Index, 1.8x más que Nemotron 3.5 Super VL (46k) y 2.9x más que Nemotron 3 Ultra (28k), aunque todavía un 28% menos que Nemotron 3 Super (114k).