NVIDIA RTX Spark N1X 笔记本的首批 AA-AgentPerf-Local 测试结果

全部文章

NVIDIA RTX Spark N1X 笔记本的首批 AA-AgentPerf-Local 测试结果

NVIDIA 的 RTX Spark N1X 在一台 Windows 笔记本中提供高达 128 GB 的统一内存和一颗 Blackwell GPU。在我们的首批 AA-AgentPerf-Local 测试结果中，一台 RTX Spark 笔记本在 Qwen3.8 27B 上完成我们的本地代理工作负载用了 18.7 分钟。

AA-AgentPerf-Local 在本地硬件上重放录制的代理会话

AA-AgentPerf-Local 是我们的 开源工具 用于衡量笔记本电脑或工作站运行 AI 代理的速度。它将录制的代理会话重放到机器上运行的模型服务器，每个请求都携带目前为止的完整对话，并测量硬件回答每一轮所需的时间。

模型生成的 token 数量与每一轮录制的数量完全一致，因此每个系统都做相同的工作。每个提示的大部分内容都是上一个提示的重复。保留缓存的服务器只需读取每个任务的开头提示以及每一轮新增的内容（中位数约为 450 个 token，在大型工具输出后最多可达 6.4K）。

8

录制的代理任务，五个来自 PinchBench，三个来自 SWE-bench

168

模型轮次，每轮都携带目前为止的完整对话

56K

任务中最长时刻的上下文 token 数

2.6M

整个工作负载中发送给模型的提示 token 数

196K

新的提示 token（其余部分重复之前的提示）

31K

输出 token 数，在每个系统上数量相同

AA-AgentPerf-Local 默认工作负载

我们的排行榜涵盖三种 4-bit 精度的模型，从 27B 稠密模型到 124B 混合专家模型，运行在以下五个系统上。这台 RTX Spark 笔记本与 NVIDIA DGX Spark、AMD Ryzen AI Halo、MacBook Pro (M5 Pro) 以及一台搭载 GeForce RTX 5090 的台式机同台竞技。

系统

MacBook Pro

M5 Pro · 64 GB · 20 核 GPU

AMD Ryzen AI Halo

NVIDIA DGX Spark

NVIDIA RTX Spark N1X

20核 CPU · 6144核 GPU

NVIDIA GeForce RTX 5090

模型

Qwen3.8 27B (Xhigh)

Qwen3.6 35B A3B (Reasoning)

Ling 3.0 Flash

RTX Spark 将 DGX Spark 的芯片装进 Windows 笔记本

RTX Spark 是 NVIDIA 面向 Windows on Arm PC 的平台，NVIDIA 将其宣传为专为本地运行 AI 代理而打造。其 N1X 芯片本质上就是 DGX Spark 中的 GB10（NVIDIA 自己的配方目录将 RTX Spark 列为 GB10），配备 20 核 Arm CPU、6,144 核 Blackwell GPU 以及两者共享的最多 128 GB LPDDR5X 内存。在笔记本中，该内存以更快的速度运行，比 DGX Spark 多出 10% 的带宽（300 GB/s 对 273 GB/s）。然而，该芯片的运行功耗为 45 至 80 W（NVIDIA 对 N1X 笔记本标称的范围），而 GB10 的额定功耗为 140 W。

我们测试了一台 15 英寸原型机 Surface Laptop Ultra 配备 128 GB 内存，售价 $5,899.99。它运行 Windows 11 on Arm，并通过 GPU 上的原生 Windows 版 llama.cpp 来服务每一个模型。我们在插电并将 Windows 设为高性能电源模式的情况下进行了测试。

规格来自 NVIDIA 的 RTX Spark 页面及 移植指南, NVIDIA 的 DGX Spark 文档 以及截至 2026 年 10 月的 Apple 资料,内存速度为我们所测试系统的报告值

每个系统运行各自的方案

我们对每个模型采用为该系统选择的方案运行,在厂商公布了方案的情况下使用其方案,因此各系统之间的运行时、投机解码和 4 比特权重格式各不相同。RTX Spark 笔记本电脑运行 NVIDIA 针对 RTX Spark 的 llama.cpp 方案,并按 NVIDIA 的设置移植到 AA-AgentPerf-Local 中。

每个系统最快 Qwen3.8 27B 结果背后的配方

我们还在测试更多权重格式和运行时,包括更小的 4-bit 格式如 IQ4_XS 以及 Inco AI 的 Splash,这是一个面向 Apple Silicon 的 Metal 引擎,使用 DFlash 投机解码。一旦它们通过我们的准确性检查,我们就会添加其结果,检查结果我们将很快发布。早期测试显示部分系统的完成时间更快。

RTX Spark 笔记本完成该工作负载需要 8-19 分钟,具体取决于模型

• 在 Qwen3.8 27B 上,RTX Spark 笔记本在 18.7 分钟内完成工作负载,接近 DGX Spark(17.3),比 MacBook Pro(37.6)快 2.0 倍,比 Ryzen AI Halo(34.5)快 1.8 倍。GeForce RTX 5090 台式机最快,仅需 4.9 分钟。
• 在 Qwen3.6 35B A3B(每个 token 激活 3B 参数)上,需要 7.6 分钟,接近 DGX Spark(7.3),比 Ryzen AI Halo(11.7)快 1.5 倍,比 MacBook Pro(11.9)快 1.6 倍。
• 在 Ling 3.0 Flash(我们排行榜上最大的模型)上,需要 15.3 分钟,接近 DGX Spark(14.9),比 Ryzen AI Halo(25.1)快 1.6 倍。其 77 GB 的权重无法装进 MacBook Pro 或 RTX 5090。

各模型与系统的完成时间

系统回答工作负载中记录的每一轮智能体任务所需的总时间。各轮依次发送,每轮附带迄今为止的对话,模型生成的 token 数量与原始记录相同,因此每个系统执行的工作量相同。不包括运行工具所花的时间。

Qwen3.6 35B A3B(每个 token 激活 3B 参数)是所有系统上最快的模型,RTX Spark 笔记本用 7.6 分钟完成它,而 Ling 3.0 Flash 需要 15.3 分钟,密集型 Qwen3.8 27B 需要 18.7 分钟。GeForce RTX 5090 台式机在其 32 GB 能装下的每个模型上都是最快的系统。

完成时间Qwen3.8 27B (Xhigh)

系统回答工作负载中记录的每一轮智能体任务所需的总时间。各轮依次发送,每轮附带迄今为止的对话,模型生成的 token 数量与原始记录相同,因此每个系统执行的工作量相同。不包括运行工具所花的时间。

这些系统的价格为近似值,并且每周都在变化。按当前价格,5,899.99美元的 RTX Spark 笔记本比 MacBook Pro(约3,700美元)和 Ryzen AI Halo(4,000美元)贵,但略低于 DGX Spark(约6,000美元),而 RTX 5090 台式机是最贵的系统,约9,500美元(约7,000美元的显卡加上对其余 PC 部分保守估计的2,500美元)。下面的图表使用这些价格,我们的排行榜允许你输入自己的价格。

完成时间与价格对比Qwen3.8 27B (Xhigh)

系统回答工作负载中记录的每一轮智能体任务所需的总时间。各轮依次发送,每轮附带迄今为止的对话,模型生成的 token 数量与原始记录相同,因此每个系统执行的工作量相同。不包括运行工具所花的时间。

截至2026年10月的近似当前美元价格。仍以首发 MSRP 销售的系统按 MSRP 定价。显卡的价格为显卡本身加上2,500美元(任意估计)的系统其余部分。输入你自己的价格以反映你可获得的价格。

进一步探索

• 在以下页面比较每个系统和模型: 笔记本电脑与工作站排行榜
• 在以下页面查看每个结果背后的完整启动命令: 配置页面
• 用自己的机器运行任何配方: GitHub 上的 AA-AgentPerf-Local

阅读最新内容

Reflection 发布了 Beam，这是他们的首个模型发布

Reflection 的首个模型 Beam 在 Artificial Analysis Intelligence Index 上得分 30，位列美国开放权重模型第 2 名

2026年10月16日