RTX Spark 笔记本实测:Nvidia 首款本地 AI 笔记本芯片表现如何
RTX Spark im Test: Nvidias erster Notebook-Chip für lokale KI | heise online
heise online 的 c't 3003 实测了搭载 Nvidia 首款笔记本芯片 N1X(品牌名 RTX Spark)的 Asus ProArt P14,该机支持最高 128 GB 统一内存,测试机为 32 GB 内存加 1 TB SSD,售价 3300 欧元。用 llama-bench 测试 Qwen 3.8-27B 时生成速度约 14.5 Token/s,略快于 Apple M6 和 Strix Halo,慢于 M5 Pro;改用 MoE 模型 Qwen 3.6-35B-A3B 可达近 61 Token/s。提示词处理速度优于 Strix Halo 和 M5 Pro、M6,但满载风扇噪音最高 2.7 sone,且空闲时也会启动。作者还尝试安装 Ubuntu,在自行补齐驱动后,两个模型在 Linux 下的速度反而比 Windows 快 14% 和 9%。
正文 · AI 翻译
被盛赞为“Windows PC 的重新发明”,RTX Spark 笔记本如今已上市。c’t 3003 借助华硕 ProArt P14 仔细考察了首款 Spark 设备。
广告之后继续阅读
视频文字稿
(提示:本文字稿面向无法或不愿观看上方视频的人群。文本并未涵盖画面轨道中的全部信息。)
大家看这里,我手头有一台笔记本,搭载的是 Nvidia 有史以来第一款笔记本芯片。这玩意儿叫 N1X,你们可能更熟悉它的品牌名 RTX Spark。它的特别之处在于:最高支持 128 GB 高速统一内存,因此非常适合本地 AI。是这样吗?嗯,我们就在这个视频里一探究竟。
为此,华硕提前给我寄来了一台 ProArt P14,我当然不只测试 AI 相关的东西,还会测游戏性能,最重要的是:它到底能不能跑 Linux,还是说这些机器真的只能搭配预装的 Windows 使用?请继续关注。
我们没飘,不,我们没飘。没有。哦,是因为我们测试的东西总是那么贵吗?这我们也没办法,因为内存。对。对。
像 RTX Spark 这样的机器的一大优势就是:硬件掌握在你自己手里。
广告之后继续阅读
是的,在六月的 Computex 上,Nvidia 围绕 RTX Spark 笔记本大造声势,其特别之处不仅在于搭载了 Nvidia 的 CPU-GPU 组合芯片——他们称之为超级芯片——更在于高速的共享内存。而高速内存恰恰是本地 AI 模型所需要的。这正是一般笔记本通常不具备的。它们通常只有普通的慢速 DDR5 内存之类,运气好的话还有一块带更快显存的 GPU 单元,但显存往往只有 8 GB 左右,这有点少,装不下太多东西。
因为如果你想运行一个至少勉强达到 Claude 或 ChatGPT 水平的本地 AI 模型,那就需要类似 Qwen 3.8-27B 这样拥有 270 亿参数的模型。而这个东西即便采用极度压缩、也就是 AI 圈所说的量化 IQ4_XS 版本,也需要 14 GB,这还不算所谓的内存或者说上下文。加上真正用起来所需的上下文,很快就要再往上加 18 GB 甚至更多,而且仅仅是给 AI 模型用的。可你还想在电脑上干别的事。你们懂这个问题。
而当前的笔记本用统一内存——也就是图形单元(LLM 运行在其上)和 CPU 共享的内存——来解决这个问题。当然,采用这项技术的不只有 Nvidia,Apple 从 2020 年起就在自家的 M 芯片上用了,AMD 也有。它叫 Ryzen AI Max Pro,或者叫 Strix Halo,又或者 Gorgon Halo。Gorgon。Gorgon,Gorgonzola,Gorgon Halo。
顺便简单提一句:这一切与所谓的 NPU,也就是神经网络处理单元,毫无关系——微软可是要求其 Copilot+ PC 必须配备 NPU 的。如果你想运行 Qwen 3.8-27b 这样的本地 AI 模型,通常从这块 NPU 上得不到任何好处。这些模型运行在 GPU 核心上。
第 2 章:有哪些型号,硬件手感如何
这差不多就是 RTX Spark 的前史,而现在十月中旬首批型号即将上市,几乎来自所有相关笔记本厂商。微软也在其中,他们的 RTX Spark 设备叫 Surface Laptop Ultra,而且各家首发的都只有 16 英寸笔记本,联想 Yoga 是 15.3 英寸,唯独华硕不是。除了 16 英寸机型,他们还推出了 14 英寸版本,名为 Asus ProArt P14,我提前拿到了测试机,是 32 GB 共享内存加 1 TB SSD 的版本,而且完全没有附带任何测试要求之类的东西。
所以我想怎么折腾就怎么折腾。我这台借测机在市面上要卖 3300 欧元。如果想要 64 或 128 GB——这相当有意义,我马上就会讲到——那至少得花 4300 欧元(64 GB)乃至 6700 欧元(128 GB)。贵、贵、贵,但换来的是 Windows。
是的,这有点奇怪,因为尽管 RTX Spark 芯片与 DGX Spark 关系密切——你们也许还记得,那是些小型 AI 工作站——但所有 RTX Spark 笔记本都默认运行 Windows。DGX Spark 则运行 Linux,具体来说是 Nvidia 定制版的 Ubuntu。对,就是 Windows 11 的 Windows-for-Arm 版本,第一次开机时,从那种真正的纯黑就能立刻看出:啊对,这是块 OLED 屏。非常漂亮。而且素质确实很高:2880 × 1800 像素,我十分敬重的笔记本专家同事 Florian 测得的最高亮度为 599 尼特,确实非常亮。
除此之外,机身就是那种高端笔记本的质感,甚至和 MacBook Pro 相差不大,重量上也是。顺便说一句,续航也完全没问题。华硕 P14 在 200 尼特屏幕亮度下播放视频,坚持了 19 个多小时。
但遗憾的是,开机后立刻就有负面印象:风扇常常在我什么都还没启动时就自顾自地轰鸣起来。而当我做些稍微吃性能的事情时,那声音有时会变得非常吵。我们在隔音室里测到满载时高达 2.7 sone。作为对比:一台搭载最强 M5 Pro 的现款 MacBook Pro,性能上相当,满载时虽然也会飙到 4.8 sone,但真的只在满载时,也就是你做别的事情时不会,尤其是不会在桌面闲置时。而这台华硕 RTX Spark 有时就是会这样。
第 3 章:AI 基准测试对比
是的,我想说,一台搭载最强 M5 Pro 的 MacBook Pro,也就是 18 核 CPU 加 20 核 GPU 的版本,大概就是 RTX Spark 笔记本的主要竞争对手。它们的价格也差不多,不过苹果的 M5 Pro 没有 32 GB 版本——我们的 RTX Spark 测试机就是 32 GB——只有 24 GB 或 48 GB,而选后者加上最强的 M5 Pro 配置,在苹果那边大概要 3800 欧元。好,那我们现在就直接来看看,本地 AI 的具体对比到底如何。我刚刚把 M5 Pro 完整跑了一遍基准测试,不过是 Mac mini 版本,但两者应该差别不大,用的是目前大概最受欢迎的两个模型:Qwen 3.8-27B 和 Qwen 3.6-35B-A3B。对,结果就是这样。在稠密、较慢的 Dense 模型上,RTX Spark 以 14.5 Token 略快于 Apple M6 和 Strix Halo,略慢于 Apple M5 Pro。而明显更快的是 32 GB 的 Intel 显卡 Arc Pro B70,当然还有 RTX 4090 GPU 和最顶配的 Mac Studio M5 Ultra。
顺便说一句,这些都是用 llama-bench 完全基础地测的,没有任何附加参数,也就是没有多 Token 预测之类的技巧,因为这些东西非常依赖内容。不过你们可以认为,用 MTP 至少还能再加 25%,写代码时甚至可能明显更多。这里是我用 M5 Ultra 实测的一些具体数字。多 Token 预测是指模型自己用额外的预测头提前推测性地算出几个 Token。顺便说一句,这不会降低质量,因为大模型之后还会再校验一遍,但速度肯定会提升。
对,说到更快:如果你们想用一点智能换速度,那用混合专家模型 Qwen 3.6-35B-A3B——也就是每次只有模型的一部分同时运行——可以达到明显更多的 Token,在 RTX Spark 笔记本上不用任何 MTP 技巧就接近每秒 61 个。顺便说一句,这里的 Strix Halo 测量值有点不公平。因为我手头没有 Strix Halo 笔记本,只有一台 Framework 台式机,它在 120 瓦持续负载下可以消耗两倍多的功率,而搭载 RTX Spark 的华硕笔记本只有约 40 瓦,短时 60 瓦,所以 Nvidia 芯片肯定更高效。在 Mac 上,MacBook Pro 和 Mac mini 之间的差别,也就是 M5 Pro,显然不太相关,但如前所述,我当时手头没有 M5 Pro 笔记本。
编码智能体实测
顺便说一句,如果你们想看看慢速的 Qwen 3.8-27B 模型和更快的 Qwen 3.6-35B-A3B 模型实际运行起来是什么样,那就是这样。这里慢速模型正在运行,这里是更快的那个,两者都在用我的编码工具 Pi 给我各建一个网站。我之前也说过,Dense 模型,也就是 27B,更聪明。这从结果里也能看出来。这里,这个任务很简单:给我建一个看起来精致的 Jan-Keno Janssen 网站,从网上搜集关于他的所有信息。然后这边是更快、更笨的模型。
对,那个更笨的模型不仅看起来无聊,而且里面写的也是胡扯。比如我从来没在 PC-WELT 工作过,其他内容也很,怎么说呢,反正没法用。对,而 Qwen 3-27B 这边就完全不同。首先看起来挺不错的,我觉得。我尤其觉得有意思的是,它不知从哪儿找来了这张俏皮的照片。
再确认一下,让大家真正理解:我没有给模型任何上下文,它事先也没有关于我的任何上下文,而是一个全新部署的模型。我说:找些关于 Jan-Keno Janssen 的信息,建一个网站。我得说,这已经相当合理了。包括权重方面,哪些是相关的、哪些不相关,我觉得做得挺不错。
对,你们看这里:这是 Artificial Analysis 的行业标准智能评估。里面包括 Anthropic、OpenAI 等目前最大的云端模型,而且是很新的,也包括这周才发布的模型,就是那种跑在价值数百万欧元的服务器上的东西。而小小的 Qwen 3.8-27B——如前所述,包括上下文在内现实中只需要不到 20 GB——也能参与其中。虽然不是最前面,但仍以可观的 34 分位列其中。不过总得说一句:这个智能指数和真正的知识关系很小,更多是类似:这东西会不会用工具、知不知道该去网上哪里搜东西等等,也就是能不能把事情办成?因为 Qwen 这里只有 270 亿参数,知识是有限的。但如果像我用编码智能体 Pi 这样用它,或者用 OpenCode 之类的,让这东西能使用工具,那它就能从网上获取信息,那就真的非常实用了。
提示词处理与效率
是的,说到智能体:如果想评估运行本地模型的硬件,不仅Token生成速度重要,也就是文本生成有多快——这正是我刚才展示给你们的那些基准测试所测量的,而这几乎完全取决于内存带宽。硬件处理提示词的速度也很重要。因为一个编码智能体有时会把5万个Token塞进上下文,而这些必须先计算完,才会输出第一个新Token。这就不太关乎内存带宽,而是纯粹看算力。在这方面,RTX Spark笔记本明显优于AMD Strix Halo,也优于Apple M5 Pro和M6。简而言之:用Qwen 3.8-27B,RTX Spark笔记本完全可以投入生产使用。用那个35的混合专家模型会明显更快,但它也没那么聪明。
遗憾的是,我目前手头也没有DGX Spark设备做直接对比,所以没法用它来跑当前模型的基准测试。不过我因此在RTX Spark上又跑了一遍旧模型,好拿它和我归档的DGX Spark基准测试做比较。这也挺有意思:尽管硬件非常相似,DGX Spark往往能跑出两倍的性能,而这显然是因为DGX Spark可以消耗超过两倍的功耗。我们当时测到最高216瓦,而RTX Spark的峰值最高只有60瓦。
第4章:图像处理与CUDA优势
是的,实际使用中我在RTX Spark上也跑了Q4_K_M量化版本。你们刚才在基准测试里也看到了,但那样最多只能在终端里并行用一个智能体。一旦同时在浏览器里做点事,甚至想让LLM去操作Blender或Photoshop之类的东西,系统就明显撑不住了,纯粹是因为内存不够。
所以我改用了量化更小的IQ4_XS版本。它又能省下几个GB内存,这样甚至能并行跑Photoshop。不过总的来说,我本来希望能至少有48 GB统一内存可用。那样很多事情都会更顺畅。
是的,但即便只有32 GB,我也如前所述,让一个在同一硬件上运行的LLM去操作Photoshop。我这边是用Hermes智能体做的,它通过MCP接口控制Photoshop。开箱即用的话,功能上没问题,但内容上不太行。这里LLM围绕RTX Spark测试拼出了一张看起来很惊艳的图。所以是的,它多少能控制Photoshop。至于在我这种情况下,一上来就生成些图片是否有意义,那是个问题。而且提示词也写得非常粗糙。所以如果有这样的工作流,比如,我想给100张Photoshop图片改某个图层的颜色,那用这台设备通过MCP智能体来做肯定是有意义的。
总的来说:这一整套LLM的东西,也就是让硬件运行语言模型,用llama.cpp或Ollama或LM Studio,如今跨硬件都运行得很好,只要手头有台内存快的设备。所以是Mac、Strix Halo、Intel显卡还是Nvidia硬件,都相当无所谓。但所有与AI相关、超出这个范围的东西,比如用ComfyUI做图像和视频生成,目前总是用Nvidia硬件效果最好,因为只有Nvidia支持CUDA编程接口,而且很多这类东西用CUDA跑得最好最快。所以如果想全方位省心,Nvidia在这里确实是个好选择。
但我也得说,我在所有提到的平台上都把ComfyUI跑起来了。有时得多折腾一点,但大部分东西终究还是能跑。也许慢一点,但能跑。
第5章:游戏性能与Linux实验
是的,但CUDA兼容性绝对是RTX Spark设备的一个加分项,游戏也跑得好。可以装普通的GeForce驱动,然后,对,就能玩。比如《赛博朋克2077》在Ultra预设下,也就是最高画质、不开光线追踪,Full HD、完全不开任何超分辨率,能跑到63 fps。这已经可以了。
不过这里得考虑到,运行的是x86转Arm的兼容层Prism。它当然会损耗一些性能,但如今在Windows下总体都运行得不错。我试过的游戏都没出问题。是的,这里还有几个其他基准测试结果,比如3DMark Steel Nomad和Geekbench 6。挺有意思:在Geekbench里M5 Pro把RTX Spark甩得很远,但在3DMark里Nvidia又略微领先。
是的,我一开始还承诺过要看看RTX Spark笔记本上能不能跑Linux。因为关系密切的DGX Spark用的是Ubuntu,我也把适用于Arm的标准Ubuntu写进U盘并从它启动。顺便说一句,UEFI BIOS非常简陋,除了启动介质和安全启动之外真的什么都调不了。而且它也不喜欢变音字符,也就是保存更改。是的,它甚至能启动进Ubuntu,不过一开始没有Nvidia驱动,尤其没有触摸板和键盘驱动。所以必须外接鼠标和键盘,然后才能勉强操作。
Jo,先在这里插一句,来自未来的Keno,或者说来自Linux兔子洞的Keno:我让触摸板、键盘和GPU都跑起来了。Claude Code帮了我,甚至编译了一个新内核,但更重要的是:我也把视频里提到的两个语言模型,也就是Qwen 3.8-27B和Qwen 3.6-35B-A3B,完全按照Windows下的方式做了基准测试,用的还是同一个llama.cpp版本。结果相当有意思。尤其是混合专家模型Qwen 3.6-35B-A3B,在Linux下分别快了14%和9%,已经算是显著更快了,这确实很离奇,因为RTX Spark可是被Nvidia和微软吹捧为Windows PC的重新发明。
而且微软还专门为RTX Spark优化了Windows,比如用WPS,也就是工作负载配置文件调度,让任务能更好地分配到众多核心上。但现实是:即使在我自己东拼西凑、完全没优化的Linux上,有些东西反而跑得更好。且看后续还会有什么发展吧。
结论
所以是的,华硕P14,或者说整个RTX Spark,是的,我得说,我并不失望,但我也谈不上兴奋。这东西并没有带来什么令人惊喜的表现。价格也正好卡在竞争对手的价格区间里,严丝合缝。而竞争对手,我估计就是苹果。我们这台测试机配32 GB统一内存,售价3300欧元。
是的,而在苹果那边,3550欧元能买到一台M5 Pro MacBook Pro,配48 GB内存。在我看来,就像我说的,如果你真的想用性能强劲的本地AI模型做点事,这比32 GB更有意义。如果你跟AI完全不沾边,那这些本来就都是杀鸡用牛刀。苹果的风扇控制明显更舒服。这一点在華碩那台机器上真的让我很烦。
但作为交换,苹果那边你就得不到漂亮的OLED屏幕,而且,你也得不到CUDA兼容性。所以如果你想用ComfyUI之类的东西做点什么,CUDA确实更合适一些。作为补偿,RTX Spark有Windows 11。Linux还不确定什么时候、以什么方式能跑起来,而且RTX Spark的游戏兼容性更好。不过苹果那边这方面也正在改善。
性价比真正出色的还有搭载AMD Strix Halo,也就是Gorgon Halo的笔记本,即Ryzen AI Max 300或400。比如,稍微老一点的32 GB内存笔记本不到2000欧元就能买到,而且它们也相当适合本地AI。好了,我们还有什么遗漏的吗?欢迎写在评论区。拜拜。
c't 3003是c't的YouTube频道。c't 3003上的视频是独立内容,与c't杂志上的文章无关。编辑Jan-Keno Janssen、Lukas Rumpler、Sahin Erengil和Pascal Schewe每周发布一个视频。
(jkj)