NVIDIA acaba de lanzar Nemotron 3.5 Super VL, un modelo abierto de visión y lenguaje diseñado para agentes empresariales siempre activos. Nemotron 3.5 Super VL es un modelo mixture-of-experts de 120B parámetros de NVIDIA que activa 12B parámetros por token. Lee texto, imágenes, documentos y video, y luego razona, llama a herramientas y escribe código en un solo modelo. Para los desarrolladores, 1 checkpoint abierto reemplaza un modelo de texto separado junto con un modelo de visión separado. NVIDIA también envió 2 modelos edge, Nemotron 3.5 Bolt 74B-A9B y Bolt E4B.
TL;DR
- Tamaño: 120B parámetros totales, 12B activos (MoE). Contexto de hasta 1M de tokens.
- Se ejecuta en: 1x DGX Spark, 1x H200, 2x H100 o 1x GB200 con el checkpoint NVFP4. También se publica un checkpoint BF16.
- Rendimiento: Fuerte razonamiento, codificación agéntica y visión de documentos. NVIDIA afirma hasta 5 veces mayor rendimiento por GPU que pares abiertos.
- Mejor: 89.90 en GPQA-Diamond (NVFP4).
- Peor: 17.78 en tau3-bench banking (NVFP4).
¿Qué es Nemotron 3.5 Super VL?
Es un modelo agente multimodal abierto. Los pesos se publican bajo la licencia OpenMDW-1.1. NVIDIA también lanzó conjuntos de datos abiertos, recetas de entrenamiento y entornos de RL en NeMo Gym.
La ficha del modelo enumera entradas de texto, imagen y video con salida de texto. El video está limitado a clips MP4 de hasta 2 minutos. El razonamiento se puede activar o desactivar mediante la plantilla de chat.
¿Cómo funciona la arquitectura?
El backbone intercala capas Mamba-2, mixture-of-experts y de atención. Cada capa MoE contiene 512 expertos enrutados. Un codificador de visión C-RADIO y un conector alimentan imágenes, páginas de documentos y fotogramas de video en el backbone del lenguaje.
La velocidad proviene de cuatro técnicas:
- Predicción de múltiples tokens: un borrador nativo propone varios tokens, verificados en 1 pasada de avance.
- LiLiCorr: un borrador especulativo para DGX Spark, hasta 2.3 veces más rápido en la generación de tokens.
- NVFP4 con destilación consciente de la cuantización: pesos y activaciones de 4 bits en Blackwell, pesos de 4 bits con activaciones de 16 bits en otros lugares.
- Reutilización de contexto: el almacenamiento en caché de prefijos conserva tanto las cachés de atención como los estados de Mamba a lo largo de los turnos del agente.
El modelo fue destilado de Nemotron 3 Ultra. El equipo de NVIDIA afirma que se entrenó con unos 26 billones de tokens. El post-entrenamiento utilizó aproximadamente 3.8 millones de muestras más RL en docenas de entornos. El preentrenamiento continuado añadió 10B tokens índicos.
¿Cómo se desempeña en los benchmarks?
Todas las puntuaciones siguientes son reportadas por NVIDIA, del checkpoint NVFP4 en la ficha del modelo.
| Área | Benchmark | Puntuación |
|---|---|---|
| Razonamiento | GPQA-Diamond | 89.90 |
| Programación | SWE-bench Verified | 71.07 |
| Programación | Terminal-Bench 2.1 | 60.80 |
| Agente web | BrowseComp | 77.5 |
| Seguimiento de instrucciones | IFBench | 71.50 |
| Gráficos | CharXiv reasoning | 79.88 |
| Documentos | MMLongBench-Doc | 62.82 |
| Uso de computadora | OSWorld-Verified | 52.3 |
| Agente de horizonte largo | tau3-bench banking | 17.78 |
En las evaluaciones de harness de agentes, Super VL supera a Nemotron 3 Ultra. Obtiene 63.44% en Hermes Bench frente a 56.33%. En las evaluaciones de LangChain obtiene 87.05% frente a 84.3%. Ultra tiene aproximadamente 4.6 veces más parámetros totales.
El equipo de NVIDIA reporta más de 600 tokens de salida por segundo en tareas agénticas de Artificial Analysis mediante un endpoint de Baseten. Su gráfico marca una brecha de velocidad de 5x sobre Inkling Small.
</div> <div class="stage" data-i="1">C-RADIO<small>codificador de visión</small></div><div class="arr"></div> <div class="stage" data-i="2">Hybrid MoE<small>Mamba-2 + atención</small></div><div class="arr"></div> <div class="stage" data-i="3">Decodificación MTP<small>+ LiLiCorr</small></div><div class="arr"></div> <div class="stage" data-i="4">Salida<small>texto, llamadas a herramientas</small></div> </div> <div class="detail" id="mtp-detail"></div> <div class="ctrl"> <button class="btn" id="mtp-prev"> Anterior</button> <button class="btn pri" id="mtp-next">Siguiente </button> <button class="btn" id="mtp-play"> Reproducción automática</button> <span class="step" id="mtp-step">Paso 1 de 5</span> </div> </div> <div class="panel" id="p-bm"> <div class="seg"><button class="on" data-c="nv">NVFP4</button><button data-c="bf">BF16</button></div> <div id="mtp-bars"></div> <p class="note">Puntuaciones reportadas por NVIDIA en la ficha del modelo. La barra naranja marca el resultado más débil.</p> </div> <div class="panel" id="p-cp"> <div class="cmp" id="mtp-cmp"></div> <p class="legend">Puntuaciones autoinformadas por el proveedor. Super VL usa NVFP4. Los harness difieren: el SWE-bench de Inkling-Small usa un harness solo con bash.</p> </div> <div class="panel" id="p-dp"> <div class="hw" id="mtp-hw"> <button class="chip on" data-h="0">1x DGX Spark<small>vLLM · LiLiCorr</small></button> <button class="chip" data-h="1">1x H200<small>vLLM · MTP 3</small></button> <button class="chip" data-h="2">2x H100<small>vLLM · MTP 3</small></button> <button class="chip" data-h="3">1x GB200<small>vLLM · MTP 5</small></button> </div> <div class="detail" id="mtp-hwd"></div> <pre id="mtp-code"></pre> <p class="note">Comandos abreviados de la ficha del modelo en Hugging Face. Para producción, use allí el conjunto completo de flags.</p> </div> <div class="ft"><span>Fuentes: NVIDIA blog, NVIDIA technical blog, fichas de modelos de Hugging Face</span><span class="br">© Marktechpost</span></div> </div> <script> (function(){ var R=document.getElementById('mtp-nsvl'); function $(s){return R.querySelector(s)} function $$(s){return Array.prototype.slice.call(R.querySelectorAll(s))} function resize(){try{parent.postMessage({mtpEmbed:'nsvl',h:R.offsetHeight+40},'*')}catch(e){}} /* tabs */ $$('.tab').forEach(function(t){t.addEventListener('click',function(){ $$('.tab').forEach(function(x){x.classList.remove('on')});t.classList.add('on'); $$('.panel').forEach(function(p){p.classList.remove('on')}); var k=t.getAttribute('data-t');$('#p-'+k).classList.add('on'); if(k==='bm')drawBars(cur);if(k==='cp')drawCmp();if(k==='ov')count(); setTimeout(resize,60); })}); /* counters */ function count(){$$('.stat b').forEach(function(b){var n=+b.getAttribute('data-n'),s=b.getAttribute('data-s')||'',t0=null; function f(ts){if(!t0)t0=ts;var p=Math.min((ts-t0)/900,1),e=1-Math.pow(1-p,3);b.textContent=Math.round(n*e)+s;if(p<1)requestAnimationFrame(f)}requestAnimationFrame(f)})} count(); /* MoE cells */ var cells=$('#mtp-cells'),N=120;for(var i=0;i<N;i++){var c=document.createElement('div');c.className='cell';cells.appendChild(c)} var cs=$$('.cell'),tk=1; function route(){cs.forEach(function(c){c.classList.remove('act')});var used={};for(var k=0;k<12;k++){var j;do{j=Math.floor(Math.random()*N)}while(used[j]);used[j]=1;cs[j].classList.add('act')}$('#mtp-tok').textContent='token #'+(tk++)+' · 12 of 120 cells active'} route();setInterval(route,1100); /* pipeline */ var D=[ '<b>Entradas.</b> Texto, imágenes RGB (jpeg, png) y vídeo MP4 de hasta 2 minutos. Los documentos pueden pasarse como imágenes de página con texto. Todo comparte una ventana de contexto de hasta 1M de tokens.', '<b>Codificador de visión C-RADIO + conector.</b> Convierte imágenes, páginas de documentos y fotogramas de vídeo en representaciones que la columna vertebral del lenguaje puede procesar. Estas partes permanecen en BF16 tras la cuantización.', '<b>Columna vertebral MoE híbrida.</b> Capas intercaladas de Mamba-2, MoE y atención. 512 expertos enrutados por capa MoE, 12B de 120B parámetros activos por token. Destilado de Nemotron 3 Ultra.', '<b>Decodificación rápida.</b> La predicción nativa multi-token propone varios tokens para verificación en 1 pasada. En DGX Spark, el borrador LiLiCorr permite una generación de tokens hasta 2.3 veces más rápida.', '<b>Salida.</b> Respuestas de texto, razonamiento (activable con enable_thinking) y llamadas a herramientas. NVIDIA informa de más de 600 tokens de salida por segundo en tareas agénticas de Artificial Analysis vía Baseten.']; var si=0,timer=null,st=$$('.stage'); function show(i){si=(i+5)%5;st.forEach(function(s,k){s.classList.toggle('on',k===si)});$('#mtp-detail').innerHTML=D[si];$('#mtp-step').textContent='Paso '+(si+1)+' de 5';setTimeout(resize,30)} st.forEach(function(s){s.addEventListener('click',function(){show(+s.getAttribute('data-i'))})}); $('#mtp-next').addEventListener('click',function(){show(si+1)}); $('#mtp-prev').addEventListener('click',function(){show(si-1)}); $('#mtp-play').addEventListener('click',function(){var b=this;if(timer){clearInterval(timer);timer=null;b.textContent=' Reproducción automática'}else{timer=setInterval(function(){show(si+1)},2200);b.textContent='❚❚ Pausa'}}); show(0); /* benchmarks */ var B=[['GPQA-Diamond',89.90,89.52],['CharXiv reasoning',79.88,80.82],['BrowseComp',77.5,78],['SWE-bench Verified',71.07,71.10],['IFBench',71.50,70.86],['MMLongBench-Doc',62.82,62.82],['Terminal-Bench 2.1',60.80,66.70],['OSWorld-Verified',52.3,51. 14],['tau3-bench banking',17.78,18.88]]; var cur='nv'; function drawBars(c){cur=c;var h='';B.forEach(function(r,i){var v=c==='nv'?r[1]:r[2];h+='<div class="bar"><span class="nm">'+r[0]+'</span><div class="track"><div class="fill'+(i===B.length-1?' low':'')+'" data-w="'+v+'"></div></div><span class="val">'+v.toFixed(2)+'</span></div>'}); $('#mtp-bars').innerHTML=h;requestAnimationFrame(function(){requestAnimationFrame(function(){$$('#mtp-bars .fill').forEach(function(f){f.style.width=f.getAttribute('data-w')+'%'})})});setTimeout(resize,60)} $$('.seg button').forEach(function(b){b.addEventListener('click',function(){$$('.seg button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');drawBars(b.getAttribute('data-c'))})}); /* comparación */ var C=[['GPQA Diamond','89.90','86.6','89.5'],['SWE-bench Verified','71.07','72.0','80.2'],['IFBench','71.50','76.1','82.2'],['CharXiv reasoning','79.88','77.2','77.4'],['BrowseComp','77.5','63.8','77.4']]; function drawCmp(){var h='';C.forEach(function(r){h+='<div class="row"><div class="rt">'+r[0]+'</div>'+ '<div class="b me"><span class="nm">Super VL</span><div class="track"><div class="fill" data-w="'+r[1]+'"></div></div><span class="val">'+r[1]+'</span></div>'+ '<div class="b"><span class="nm">Qwen3.5-122B-A10B</span><div class="track"><div class="fill q" data-w="'+r[2]+'"></div></div><span class="val">'+r[2]+'</span></div>'+ '<div class="b"><span class="nm">Inkling-Small</span><div class="track"><div class="fill i" data-w="'+r[3]+'"></div></div><span class="val">'+r[3]+'</span></div></div>'}); $('#mtp-cmp').innerHTML=h;requestAnimationFrame(function(){requestAnimationFrame(function(){$$('#mtp-cmp .fill').forEach(function(f){f.style.width=f. getAttribute('data-w')+'%'})})});setTimeout(resize,60)} /* despliegue */ var H=[ ['<b>1x DGX Spark (GB10).</b> Texto e imágenes, contexto de 1M de tokens en vLLM. NVIDIA recomienda el borrador LiLiCorr para todos los despliegues en Spark.','vllm serve nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4 \\\n --max-num-seqs 1 --trust-remote-code \\\n --speculative_config.model nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr \\\n --speculative_config.num_speculative_tokens 7 \\\n --speculative_config.method dflash \\\n --reasoning-parser nemotron_v3'], ['<b>1x H200.</b> Texto, imágenes y vídeo, contexto de 1M de tokens, MTP con 3 tokens propuestos. Mismo comando que 2x H100 con tensor parallel 1.','vllm serve nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4 \\\n --tensor-parallel-size 1 --trust-remote-code \\\n --speculative-config.method mtp \\\n --speculative-config.num_speculative_tokens 3 \\\n --reasoning-parser nemotron_v3'], ['<b>2x H100.</b> Texto, imágenes y vídeo, contexto de 1M de tokens, MTP con 3 tokens propuestos. Ejecuta W4A16 en GPUs que no son Blackwell.','vllm serve nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4 \\\n --tensor-parallel-size 2 --trust-remote-code \\\n --speculative-config.method mtp \\\n --speculative-config.num_speculative_tokens 3 \\\n --reasoning-parser nemotron_v3'], ['<b>1x GB200.</b> Texto, imágenes y vídeo, contexto de 1M de tokens, MTP con 5 tokens propuestos. W4A4 NVFP4 completo en Blackwell. También existen recetas para SGLang y TensorRT-LLM.','vllm serve nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4 \\\n --max-num-seqs 512 --trust-remote-code \\\n --speculative_config.method mtp \\\n --speculative_config.num_speculative_tokens 5 \\\n --reasoning-parser nemotron_v3']]; function hw(i){$$('.chip').forEach(function(c,k){c.classList.toggle('on',k===i)});$('#mtp-hwd').innerHTML=H[i][0];$('#mtp-code').textContent=H[i][1];setTimeout(resize,30)} $$('.chip').forEach(function(c){c.addEventListener('click',function(){hw(+c. getAttribute('data-h'))})});hw(0); window.addEventListener('load',resize);window.addEventListener('resize',resize);setTimeout(resize,300); })(); </script> </body> </html> ">¿Cómo se compara con modelos abiertos similares?
| Característica | Nemotron 3.5 Super VL | Qwen3.5-122B-A10B | Inkling-Small | Nemotron 3 Ultra |
|---|---|---|---|---|
| Desarrollador | NVIDIA | Alibaba Qwen | Thinking Machines Lab | NVIDIA |
| Parámetros totales / activos | 120B / 12B | 122B / 10B | 276B / 12B | 550B / 55B |
| Contexto | Hasta 1M | 262,144 nativo, ampliable a 1,010,000 | No divulgado en la ficha del modelo | Evaluado a 1M (Ruler @1M) |
| Entradas | Texto, imagen, video | Texto, imagen, video | Texto, imagen, audio | No divulgado |
| Licencia | OpenMDW-1.1 | Apache 2.0 | Apache 2.0 | OpenMDW-1.1 |
| Hardware de referencia | 1x DGX Spark, 1x H200, 2x H100 o 1x GB200 | Ejemplo de servicio con paralelismo de tensores en 8 GPU | No revelado | No revelado |
| GPQA Diamond | 89.90 | 86.6 | 89.5 | No revelado |
| SWE-bench Verified | 71.07 | 72.0 | 80.2 (solo con harness de bash) | de 65 a 70.4 (en 5 harnesses) |
| IFBench | 71.50 | 76.1 | 82.2 | 82 |
| Razonamiento CharXiv | 79.88 | 77.2 | 77.4 | No revelado |
| BrowseComp | 77.5 | 63.8 | 77.4 (con gestión de contexto) | No revelado |
| Terminal-Bench | 60.80 (v2.1) | 49.4 (v2) | 64.7 (v2.1, mejor harness) | 54 (v2.0) |
Las puntuaciones son autoinformadas por cada proveedor. Los harnesses y las versiones de los benchmarks difieren, así que trate con cautela las diferencias de unos pocos puntos.
¿Cómo pueden los desarrolladores desplegarlo?
Super VL está disponible en Hugging Face, OpenRouter, ModelScope y como un NVIDIA NIM. Los runtimes compatibles son vLLM, SGLang y TensorRT-LLM en Blackwell y Hopper. Las rutas locales incluyen llama.cpp y Unsloth.
Para producción, las recetas de Dynamo añaden enrutamiento consciente de KV. En 16 GPU B200 a 50 tokens por segundo por usuario, NVIDIA informa de 8x más usuarios atendidos. La latencia del primer token cae un 85%.
La personalización se realiza a través de NeMo AutoModel para SFT y LoRA, y NeMo RL para aprendizaje por refuerzo. NVIDIA cita resultados tempranos:
- Scale AI para el procesamiento de créditos a proveedores de Skydance: 40x menos costo de inferencia y 5x menos latencia.
- Ramp extracción de recibo a JSON: se espera hasta 50% más de rendimiento y 10x menos latencia.
- AI21 para la inteligencia de amenazas Alice: 40% más de precisión.
¿Qué son los modelos Nemotron 3.5 Bolt?
Nemotron 3.5 Bolt 74B-A9B se dirige a agentes locales. Las notas de lanzamiento de NVIDIA lo describen como destilado de Super VL. La cuantización nativa de 2 bits lo hace caber en 24GB de memoria en sistemas RTX y DGX Spark. NVIDIA dice que ocupa el puesto #1 entre los modelos abiertos de su clase en PinchBench. Ocupa el puesto #2 en BrowseComp entre modelos abiertos. Está disponible ahora en Hugging Face con soporte de llama.cpp, Ollama, LM Studio, Unsloth y vLLM.
Bolt E4B 4GB llega el 23 de octubre. Se dirige a asistentes de voz y agentes integrados en GeForce RTX, Jetson y RTX o DGX Spark.
Conclusiones clave
- MoE de 120B, 12B activos, contexto de 1M, pesos abiertos bajo OpenMDW-1.1.
- 1 modelo maneja texto, imágenes, documentos, video, herramientas y código.
- El checkpoint NVFP4 se ejecuta en un solo DGX Spark, H200 o GB200.
- 89.90 en GPQA-Diamond, pero solo 17.78 en tau3-bench banking.
- Bolt 74B-A9B trae un modelo de agente local de 24GB a PCs con RTX.
Consulta el informe técnico, la ficha del modelo y el manual de uso. Todo el crédito corresponde al investigador de este proyecto. También, no dudes en seguirnos en Twitter y no olvides unirte a nuestro 150k+ML SubReddit y suscribirte a nuestro boletín. ¡Espera! ¿estás en telegram? ahora también puedes unirte a nosotros en telegram.
La entrada NVIDIA Releases Nemotron 3.5 Super VL, a 120B Open Multimodal Agent Model apareció primero en MarkTechPost.