Primeros resultados de AA-AgentPerf-Local para un portátil NVIDIA RTX Spark N1X

Todos los artículos

Primeros resultados de AA-AgentPerf-Local para un portátil NVIDIA RTX Spark N1X

El RTX Spark N1X de NVIDIA ofrece hasta 128 GB de memoria unificada y una GPU Blackwell en un portátil con Windows. En nuestros primeros resultados de AA-AgentPerf-Local, un portátil RTX Spark completa nuestra carga de trabajo de agente local con Qwen3.8 27B en 18.7 minutos.

AA-AgentPerf-Local reproduce sesiones de agente grabadas en hardware local

AA-AgentPerf-Local es nuestra herramienta de código abierto para medir la velocidad con la que un portátil o una estación de trabajo sirve a un agente de IA. Reproduce sesiones de agente grabadas contra un servidor de modelos que se ejecuta en la máquina, con cada solicitud transportando toda la conversación hasta el momento, y mide cuánto tarda el hardware en responder cada turno.

El modelo genera exactamente el número de tokens grabados para cada turno, por lo que todos los sistemas hacen el mismo trabajo. La mayor parte de cada prompt es una repetición del contenido del prompt anterior. Un servidor que conserva su caché solo tiene que leer el prompt inicial de cada tarea y lo que añade cada turno (una mediana de unos 450 tokens, y hasta 6.4K tras una salida grande de una herramienta).

8

Tareas de agente grabadas, cinco de PinchBench y tres de SWE-bench

168

Turnos del modelo, cada uno con la conversación completa hasta el momento

56K

Tokens de contexto en el punto más largo de una tarea

2.6M

Tokens de prompt enviados al modelo en toda la carga de trabajo

196K

Tokens de prompt nuevos (el resto repite un prompt anterior)

31K

Tokens de salida, la misma cifra en cada sistema

Carga de trabajo predeterminada de AA-AgentPerf-Local

Nuestra tabla comparativa cubre tres modelos con precisión de 4 bits, desde un modelo denso de 27B hasta un modelo de mezcla de expertos de 124B, en los cinco sistemas siguientes. El portátil RTX Spark se une a NVIDIA DGX Spark, el AMD Ryzen AI Halo, un MacBook Pro (M5 Pro) y un escritorio con una GeForce RTX 5090.

Sistemas

MacBook Pro

M5 Pro · 64 GB · GPU de 20 núcleos

AMD Ryzen AI Halo

NVIDIA DGX Spark

NVIDIA RTX Spark N1X

CPU de 20 núcleos · GPU de 6144 núcleos

NVIDIA GeForce RTX 5090

Modelos

Qwen3.8 27B (Xhigh)

Qwen3.6 35B A3B (Reasoning)

Ling 3.0 Flash

RTX Spark lleva el chip de DGX Spark a un portátil con Windows

RTX Spark es la plataforma de NVIDIA para PCs con Windows en Arm, que NVIDIA presenta como creados para ejecutar agentes de IA localmente. Su chip N1X es esencialmente el GB10 de DGX Spark (el propio catálogo de recetas de NVIDIA lista RTX Spark como GB10), con una CPU Arm de 20 núcleos, una GPU Blackwell de 6,144 núcleos y hasta 128 GB de memoria LPDDR5X compartida entre ambas. En el portátil la memoria funciona más rápido, ofreciendo un 10 % más de ancho de banda que DGX Spark (300 GB/s frente a 273 GB/s). Sin embargo, el chip funciona a 45 a 80 W (el rango declarado por NVIDIA para portátiles con N1X), mientras que el GB10 está clasificado a 140 W.

Probamos un prototipo de 15 pulgadas Surface Laptop Ultra con 128 GB de memoria, con un precio de 5.899,99 $. Ejecuta Windows 11 en Arm y atiende todos los modelos con una compilación nativa de Windows de llama.cpp en la GPU. Lo probamos conectado a la corriente y con Windows configurado en su modo de alto rendimiento.

Especificaciones de la página de RTX Spark y de la guía de portabilidadde NVIDIA, la documentación de DGX Spark de NVIDIA y Apple a octubre de 2026, con velocidades de memoria según lo reportado por los sistemas que probamos

Cada sistema ejecuta su propia receta

Ejecutamos cada modelo con una receta elegida para cada sistema, usando la receta publicada por el proveedor cuando existe, por lo que el runtime, la decodificación especulativa y el formato de pesos de 4 bits difieren entre sistemas. El portátil RTX Spark ejecuta las recetas de llama.cpp de NVIDIA para RTX Spark, portadas a AA-AgentPerf-Local con la configuración de NVIDIA.

La receta detrás del resultado más rápido de Qwen3.8 27B de cada sistema

También estamos probando más formatos de pesos y runtimes, incluidos formatos de 4 bits más pequeños como IQ4_XS y Inco AI’s Splash, un motor Metal para Apple Silicon que usa decodificación especulativa DFlash. Añadiremos sus resultados cuando pasen nuestras comprobaciones de precisión, que publicaremos pronto. Las primeras pruebas muestran tiempos de finalización más rápidos en algunos sistemas.

El portátil RTX Spark completa la carga de trabajo en 8-19 minutos, según el modelo

• En Qwen3.8 27B, el portátil RTX Spark completa la carga de trabajo en 18.7 minutos, cerca de DGX Spark (17.3), 2.0 veces más rápido que el MacBook Pro (37.6) y 1.8 veces más rápido que el Ryzen AI Halo (34.5). El GeForce RTX 5090 de escritorio es el más rápido, con 4.9 minutos.
• En Qwen3.6 35B A3B, que activa 3B de parámetros por token, tarda 7.6 minutos, cerca de DGX Spark (7.3), 1.5 veces más rápido que el Ryzen AI Halo (11.7) y 1.6 veces más rápido que el MacBook Pro (11.9).
• En Ling 3.0 Flash, el modelo más grande de nuestra tabla de clasificación, tarda 15.3 minutos, cerca de DGX Spark (14.9) y 1.6 veces más rápido que el Ryzen AI Halo (25.1). Sus 77 GB de pesos no caben en el MacBook Pro ni en el RTX 5090.

Tiempo de finalización por modelo y sistema

Tiempo total que el sistema tarda en responder cada turno de las tareas de agente grabadas de la carga de trabajo. Los turnos se envían de uno en uno, cada uno con la conversación hasta ese momento, y el modelo genera el mismo número de tokens que en la grabación original, de modo que cada sistema hace el mismo trabajo. El tiempo empleado en ejecutar herramientas no se incluye.

Qwen3.6 35B A3B, que activa 3B de parámetros por token, es el modelo más rápido en todos los sistemas, y el portátil RTX Spark lo termina en 7.6 minutos frente a 15.3 para Ling 3.0 Flash y 18.7 para el denso Qwen3.8 27B. El GeForce RTX 5090 de escritorio es el sistema más rápido en cada modelo que cabe en sus 32 GB.

Tiempo de finalizaciónQwen3.8 27B (Xhigh)

Tiempo total que el sistema tarda en responder cada turno de las tareas de agente grabadas de la carga de trabajo. Los turnos se envían de uno en uno, cada uno con la conversación hasta ese momento, y el modelo genera el mismo número de tokens que en la grabación original, de modo que cada sistema hace el mismo trabajo. El tiempo empleado en ejecutar herramientas no se incluye.

Los precios de estos sistemas son aproximados y varían de semana en semana. A los precios actuales, el portátil RTX Spark de $5,899.99 cuesta más que el MacBook Pro (~$3,700) y el Ryzen AI Halo ($4,000), pero ligeramente menos que DGX Spark (~$6,000), y el RTX 5090 de escritorio es el sistema más caro, a ~$9,500 (una tarjeta de ~$7,000 más $2,500 conservadores por el resto del PC). El gráfico siguiente usa estos precios, y nuestra tabla de clasificación permite introducir los tuyos.

Tiempo de finalización frente a precioQwen3.8 27B (Xhigh)

Tiempo total que el sistema tarda en responder cada turno de las tareas de agente grabadas de la carga de trabajo. Los turnos se envían de uno en uno, cada uno con la conversación hasta ese momento, y el modelo genera el mismo número de tokens que en la grabación original, de modo que cada sistema hace el mismo trabajo. El tiempo empleado en ejecutar herramientas no se incluye.

Precio actual aproximado en dólares estadounidenses, a octubre de 2026. Los sistemas que aún se venden al MSRP de lanzamiento se valoran a ese precio. Una tarjeta gráfica se valora al precio de la tarjeta más $2,500 (estimación arbitraria) por el resto del sistema. Introduce tus propios precios para reflejar los precios disponibles para ti.

Explora más

• Compara todos los sistemas y modelos en el leaderboard de laptops & workstations
• Consulta el comando de lanzamiento completo detrás de cada resultado en la página de configuraciones
• Ejecuta cualquier receta en tu propia máquina con AA-AgentPerf-Local en GitHub

Lea lo último

Reflection ha lanzado Beam, el primer lanzamiento de modelo de la compañía

El primer modelo de Reflection, Beam, obtiene 30 puntos en el Artificial Analysis Intelligence Index, situándose en el puesto #2 entre los modelos de pesos abiertos de EE. UU.

16 de octubre de 2026