Premiers résultats AA-AgentPerf-Local pour un ordinateur portable NVIDIA RTX Spark N1X

Tous les articles

Premiers résultats AA-AgentPerf-Local pour un ordinateur portable NVIDIA RTX Spark N1X

Le NVIDIA RTX Spark N1X embarque jusqu'à 128 Go de mémoire unifiée et un GPU Blackwell dans un ordinateur portable Windows. Dans nos premiers résultats AA-AgentPerf-Local, un ordinateur portable RTX Spark exécute notre charge de travail d'agent local sur Qwen3.8 27B en 18,7 minutes.

AA-AgentPerf-Local rejoue des sessions d'agent enregistrées sur du matériel local

AA-AgentPerf-Local est notre outil open source pour mesurer la rapidité avec laquelle un ordinateur portable ou une station de travail sert un agent d'IA. Il rejoue des sessions d'agent enregistrées sur un serveur de modèle exécuté sur la machine, chaque requête transportant toute la conversation jusqu'alors, et mesure le temps que met le matériel pour répondre à chaque tour.

Le modèle génère exactement le nombre de jetons enregistré pour chaque tour, de sorte que chaque système effectue le même travail. L'essentiel de chaque prompt est une répétition du contenu du prompt précédent. Un serveur qui conserve son cache n'a qu'à lire le prompt d'ouverture de chaque tâche et ce que chaque tour ajoute (une médiane d'environ 450 jetons, et jusqu'à 6.4K après une sortie d'outil volumineuse).

8

Tâches d'agent enregistrées, cinq issues de PinchBench et trois de SWE-bench

168

Tours du modèle, chacun transportant l'intégralité de la conversation jusqu'alors

56K

Jetons de contexte au point le plus long d'une tâche

2.6M

Jetons de prompt envoyés au modèle sur l'ensemble de la charge de travail

196K

Nouveaux jetons de prompt (le reste répète un prompt antérieur)

31K

Jetons de sortie, le même nombre sur chaque système

Charge de travail par défaut d'AA-AgentPerf-Local

Notre classement couvre trois modèles en précision 4 bits, d'un modèle dense 27B à un modèle en mélange d'experts 124B, sur les cinq systèmes ci-dessous. L'ordinateur portable RTX Spark rejoint le NVIDIA DGX Spark, l'AMD Ryzen AI Halo, un MacBook Pro (M5 Pro) et un ordinateur de bureau avec une GeForce RTX 5090.

Systèmes

MacBook Pro

M5 Pro · 64 Go · GPU 20 cœurs

AMD Ryzen AI Halo

NVIDIA DGX Spark

NVIDIA RTX Spark N1X

CPU 20 cœurs · GPU 6144 cœurs

NVIDIA GeForce RTX 5090

Modèles

Qwen3.8 27B (Xhigh)

Qwen3.6 35B A3B (Reasoning)

Ling 3.0 Flash

RTX Spark met la puce du DGX Spark dans un ordinateur portable Windows

RTX Spark est la plateforme de NVIDIA pour les PC Windows on Arm, que NVIDIA présente comme conçus pour exécuter des agents IA localement. Sa puce N1X est essentiellement le GB10 du DGX Spark (le catalogue de recettes de NVIDIA lui-même liste le RTX Spark comme GB10), avec un CPU Arm à 20 cœurs, un GPU Blackwell à 6 144 cœurs et jusqu'à 128 Go de mémoire LPDDR5X partagée entre eux. Dans l'ordinateur portable, la mémoire fonctionne plus vite, offrant 10 % de bande passante en plus que le DGX Spark (300 Go/s contre 273 Go/s). Cependant, la puce fonctionne à 45 à 80 W (la plage annoncée par NVIDIA pour les ordinateurs portables N1X), là où le GB10 est spécifié à 140 W.

Nous avons testé un prototype 15 pouces Surface Laptop Ultra avec 128 Go de mémoire, au prix de 5,899.99 $. Il fonctionne sous Windows 11 on Arm et sert chaque modèle avec une build Windows native de llama.cpp sur le GPU. Nous l'avons testé branché sur secteur avec Windows réglé en mode d'alimentation hautes performances.

Spécifications de la page RTX Spark et du guide de portagede NVIDIA, documentation DGX Spark de NVIDIA et d'Apple en octobre 2026, avec des vitesses de mémoire telles que rapportées par les systèmes que nous avons testés

Chaque système suit sa propre recette

Nous exécutons chaque modèle avec une recette choisie pour chaque système, en utilisant la recette publiée par le fournisseur lorsqu'elle existe, de sorte que le runtime, le décodage spéculatif et le format de poids 4 bits diffèrent selon les systèmes. Le portable RTX Spark exécute les recettes llama.cpp de NVIDIA pour RTX Spark, portées dans AA-AgentPerf-Local avec les réglages de NVIDIA.

La recette derrière le résultat Qwen3.8 27B le plus rapide de chaque système

Nous testons également davantage de formats de poids et de runtimes, y compris des formats 4 bits plus petits tels que IQ4_XS et Inco AI’s Splash, un moteur Metal pour Apple Silicon qui utilise le décodage spéculatif DFlash. Nous ajouterons leurs résultats une fois qu'ils auront passé nos contrôles d'exactitude, que nous publierons bientôt. Les premiers tests montrent des temps de complétion plus rapides sur certains systèmes.

L'ordinateur portable RTX Spark termine la charge de travail en 8 à 19 minutes, selon le modèle

• Sur Qwen3.8 27B, l'ordinateur portable RTX Spark termine la charge de travail en 18,7 minutes, proche du DGX Spark (17,3), 2,0x plus rapide que le MacBook Pro (37,6) et 1,8x plus rapide que le Ryzen AI Halo (34,5). Le GeForce RTX 5090 de bureau est le plus rapide, à 4,9 minutes.
• Sur Qwen3.6 35B A3B, qui active 3B de paramètres par jeton, il faut 7,6 minutes, proche du DGX Spark (7,3), 1,5x plus rapide que le Ryzen AI Halo (11,7) et 1,6x plus rapide que le MacBook Pro (11,9).
• Sur Ling 3.0 Flash, le plus grand modèle de notre classement, il faut 15,3 minutes, proche du DGX Spark (14,9) et 1,6x plus rapide que le Ryzen AI Halo (25,1). Ses 77 Go de poids ne tiennent ni sur le MacBook Pro ni sur le RTX 5090.

Temps de complétion par modèle et par système

Temps total que le système met pour répondre à chaque tour des tâches d'agent enregistrées de la charge de travail. Les tours sont envoyés un par un, chacun avec la conversation jusqu'alors, et le modèle génère le même nombre de jetons que dans l'enregistrement original, de sorte que chaque système fait le même travail. Le temps passé à exécuter les outils n'est pas inclus.

Qwen3.6 35B A3B, qui active 3B de paramètres par jeton, est le modèle le plus rapide sur chaque système, et l'ordinateur portable RTX Spark le termine en 7,6 minutes contre 15,3 pour Ling 3.0 Flash et 18,7 pour le Qwen3.8 27B dense. Le GeForce RTX 5090 de bureau est le système le plus rapide sur chaque modèle qui tient dans ses 32 Go.

Temps de complétionQwen3.8 27B (Xhigh)

Temps total que le système met pour répondre à chaque tour des tâches d'agent enregistrées de la charge de travail. Les tours sont envoyés un par un, chacun avec la conversation jusqu'alors, et le modèle génère le même nombre de jetons que dans l'enregistrement original, de sorte que chaque système fait le même travail. Le temps passé à exécuter les outils n'est pas inclus.

Les prix de ces systèmes sont approximatifs et varient de semaine en semaine. Aux prix actuels, l'ordinateur portable RTX Spark à 5,899.99 $ coûte plus cher que le MacBook Pro (~3,700 $) et le Ryzen AI Halo (4,000 $) mais légèrement moins que le DGX Spark (~6,000 $), et le RTX 5090 de bureau est le système le plus cher à ~9,500 $ (une carte à ~7,000 $ plus un estimé conservateur de 2,500 $ pour le reste du PC). Le graphique ci-dessous utilise ces prix, et notre classement vous permet de saisir les vôtres.

Temps de complétion vs prixQwen3.8 27B (Xhigh)

Temps total que le système met pour répondre à chaque tour des tâches d'agent enregistrées de la charge de travail. Les tours sont envoyés un par un, chacun avec la conversation jusqu'alors, et le modèle génère le même nombre de jetons que dans l'enregistrement original, de sorte que chaque système fait le même travail. Le temps passé à exécuter les outils n'est pas inclus.

Prix actuel approximatif en dollars américains, en octobre 2026. Les systèmes qui se vendent toujours au MSRP de lancement sont tarifés à ce prix. Une carte graphique est tarifée au prix de la carte plus 2,500 $ (estimation arbitraire) pour le reste du système. Saisissez vos propres prix pour refléter les prix dont vous disposez.

Explorer davantage

• Comparez tous les systèmes et modèles sur le classement des ordinateurs portables et stations de travail
• Voyez la commande complète de lancement derrière chaque résultat sur la page des configurations
• Exécutez n'importe quelle recette sur votre propre machine avec AA-AgentPerf-Local sur GitHub

Lisez les dernières actualités

Reflection a lancé Beam, leur premier modèle

Beam, le premier modèle de Reflection, obtient un score de 30 sur l'Artificial Analysis Intelligence Index, le plaçant à la 2e place parmi les modèles américains à poids ouverts

16 octobre 2026