Jensen Huang Bets on AI PCs, but the Best Host for Agents Remains Disputed
English text is being prepared.
At the GTC conference in Berlin, Nvidia CEO Jensen Huang said PCs need to be reinvented, and showcased RTX Spark, an AI PC product built through four years of secret collaboration with Microsoft. The device uses a chip design that fuses CPU and GPU, offering up to 128GB of unified memory and up to 1 petaflop of FP4 AI compute. The article surveys the various ways local Agents can be hosted, including box-type products, workstations, and a virtual host model that links multiple devices into distributed compute nodes, and notes that some on-device chip practitioners say that among actual shipments of their chips designed for AI PCs, orders for edge servers and box-type products are growing faster.
Why read this
AI score 57
The article places Nvidia and Microsoft's AI PC collaboration among various approaches to hosting Agents, so readers can judge the form that local Agents will take in practice.
Topics
Body
图片来源:unsplash
“PC需要被重新发明。”
当地时间10月21日,英伟达CEO黄仁勋在柏林GTC大会上宣称,以往“输入指令,电脑执行”的范式已经走向终结,PC只有成为个人Agent,理解用户意图并主动执行任务,才符合AI时代的需求。
英伟达成立于1993年PC革命前夕,起起伏伏30余年后,成为了AI革命的最重要推手,也从“在公寓办公”“吃了上顿没下顿”的创业团队变成了全球市值最高的上市公司。
而在2022年底AI浪潮爆发后,英伟达在赚得盆满钵满的GPU业务之外,也开始积极布局机器人、自动驾驶、量子计算等前沿方向,力求押中下一个时代风口。在这一过程中,黄仁勋也没少打PC的主意,而在今年年初宣布“Agentic AI拐点已至”后,相关进程明显加速。
在柏林GTC大会上,黄仁勋也展示了英伟达“为AI时代重新设计的PC”RTX Spark,还称为了这台设备,公司与微软秘密合作了四年,投入了数千个“工程师年”。
不过,PC真的能成为Agent的最佳宿主吗?对于这个“旧瓶”是否真的能让“新酒”更美味,目前还有很多不同看法。
Agent引领AI本地化浪潮
人机交互的方式正在快速变革,快到大部分人还无法适应。
今年以来,从“小龙虾”OpenClaw到OpenAI的Codex,再到腾讯的WorkBuddy、Meta的Muse,新的Agent层出不穷,掀起一波波热浪。但在部署、使用方面,除了对普通消费者仍有一定门槛外,更为突出的问题就是隐私、安全和成本问题。
在这一背景下,模型、设备端也在同步做出调整,较为突出的表征就是小模型、本地模型和AI PC、AI手机的涌现。目前来看,业界考虑的核心逻辑,还是用消费者最熟悉的设备,搭载能在安全、隐私和成本上做得更好的模型,来让更加个性化的Agent能够跑在本地。
从英伟达目前公布的信息来看,其产品逻辑也与此一致。
相关信息显示,在英伟达与微软的合作中,前者提供GPU、AI软件栈和本地模型运行能力,后者则试图从Windows操作系统层面,为Agent提供执行、隔离和权限管理机制。
今年5月,微软公布了面向Agent的Windows安全能力;英伟达则通过OpenShell等工具,尝试让本地Agent在可控的权限范围内运行。英伟达官网文章称,双方希望解决的不只是AI能否在PC上运行,更是它能否在真实工作环境中持续执行任务。微软还在推进执行容器等机制,限制Agent对文件、网络和系统资源的访问范围。
根据英伟达公布的信息,RTX Spark采用融合CPU与GPU的芯片设计,提供最高128GB统一内存和最高1 petaflop的FP4 AI算力,用户得以运行更大规模的本地模型,相比云端模型,能够用更小的Token消耗,让Agent完成更复杂的开发、设计、游戏制作等场景。在大会现场,黄仁勋也让自己颇为钟爱的Hugging Face MicroDuck“小黄鸭”机器人走上舞台。并介绍称这些机器人的“大脑”正是在RTX Spark上构建,并由Agent驱动它们完成行走和指令响应,由此证明其新一代PC的强大AI能力。
黄仁勋还设想称,十年后人们对PC的理解会完全不同,就像今天人们还沿用“手机”的称呼但很少用这个设备“打电话”。在他看来,未来每个家庭都可能会配备一台超级AI电脑,全天候执行Agent任务。
不过,在有关此次GTC的讨论中,仍有不少声音提到“PC只是权宜之计”,认为Agent爆发未必能催化AI PC走向主流,未来能让Agent真正落地个人设备、本地场景的,可能是其他模式。
为Agent找“宿主”,还是让Agent“当家做主”?
目前,端侧、本地智能应用时间较长、验证较多的是智驾座舱、工业传感器等垂类应用场景。而在消费端的普及上,仍以手机、PC为主力,AI眼镜、智能手表以及智能手环、戒指甚至帽子等可穿戴设备也屡屡“上新”。
今年以来,最大的变化当属盒子产品的走红,包括家庭、工作场景,都冒出了不少新的盒子产品。而这些盒子最主要的特点,就是7x24小时地在本地跑Agent,这实际上正迎合了想改变“看屏幕-手动输入”这一主流人机交互方式的想法。此外,具身智能的爆发,也让机器人真正走入人类生活的设想,变得离现实更近了一步,但那更多还被视为Agentic AI后的下一个阶段,即物理AI时代。
上述种种设备,都自有其拥趸,也都在主打Agent概念,但同时也各自面临瓶颈。而值得注意的是,目前对Agent“最佳宿主”的讨论中,越来越多声音都提及,即使在本地场景,更重要的也不是为Agent找到单一载体,而是如何让Agent连接尽可能多的可信设备。换言之,就是让Agent在经授权范围内作主导。
上文提及的盒子模式,包括工作站、边缘服务器等,也是这种思路下的一种实现方式。
其核心是把Agent放到后台实现“无感”“常开”,保证Agent在场,并形成记忆和智能,而手机、PC或其他设备,更多作为入口层和呈现层,即使设备被更换,甚至未来某类设备被另一类替换,也不影响Agent本身。
有端侧芯片从业者介绍称,公司今年量产的芯片原本是针对AI PC设计的,但在出货上,反而是边缘服务器、盒子类产品采购订单大增,其增速远快于AI PC。他认为,这其中既有主流消费电子受存储涨价影响销售走弱的因素,也体现出新品类释放的想象力和迭代速度要快于传统品类。
另外,据称随着Muse引发的个人智能体爆发,目前越来越多的盒子产品也在探索本地Agent和设备中联网的端侧Agent更好协同的路径。
除了盒子类产品,还有一种被讨论较多的方式是“虚拟主机”的模式。
以往,PC兴起的核心优势之一就是将CPU、内存、存储和软件都集中在一台机器上,在硬件、软件能力过线后,更便于各类场景的使用。但Agent恰恰可以突破这种集中式结构,用户的旧电脑、游戏主机、家庭服务器,甚至其他具备计算能力的设备,都可能成为分布式的算力节点:一台设备运行本地模型,另一台处理视觉任务,主力电脑则继续承担日常工作。目前越来越多聚焦本地场景的厂商,在提供将个人网络中的多台PC连接起来,根据任务需求分配AI推理工作的解决方案。
当然,更有可能的是,那个更好的承载Agent的模式还没有被真正想到或看见。
上述端侧芯片从业者称,人们习惯科技变革中沿着延长线看问题、做预测,找到下一个风口或解决方案,但历史经验已经证明,真正的“爆款”和“答案”,永远在延长线之外。(本文首发于钛媒体APP,文|飞向Tai空)