微软等厂商力推智能体 AI PC,主张本地与云端混合分担 AI 负载
The right model at the right moment: Vendors push their agentic AI PC vision
微软在 10 月 7 日的 PC 发布活动上提出“混合智能”设想,让云端前沿模型处理最难任务、较轻任务在 Copilot+ AI PC 本地运行,以降低 token 成本。分析师 Jack Gold 预计未来三到四年约 10% 至 15% 的 AI 负载跑在 PC 上、40% 至 45% 在云端。微软演示中,GitHub Copilot 在云端用 GPT-6 Luna 分析代码,再由本地运行 MAI Code 1.1 Flash 的子智能体复现 bug,该模型被压缩到 3 bit 精度、体积减少近 80%。文章也指出首批智能体 AI PC 价格高昂,Surface Laptop Ultra 起价约 2600 美元,且企业仍需自行定制模型。
正文 · AI 翻译
AI 正变得越来越昂贵,企业正设法削减 token 成本。解决方案是:把更多 AI 工作转移到 PC 上。
PC 不会取代云端。初步的 AI 工作可以在 PC 上完成,而更繁重的任务——当今的 PC 无法处理——则可以交给云端。
“对于某些任务,我们始终需要使用最先进的云端前沿模型,但……我们并不需要对所有事情都使用它们,”TECHnalysis Research Insights 总裁 Bob O’Donnell 在 LinkedIn 的一篇帖子中写道。
这就是微软所称的“混合智能”愿景,即让 Windows 使 AI 始终可用。云端模型运行最困难的任务,而要求较低的任务则在 PC 本地运行。对于 Windows 设备而言,至少目前这意味着 Copilot+ AI PC。
“AI 的未来不在于只拥有一个模型,而在于在合适的时刻拥有合适的模型——需要时具备前沿能力,想要速度时则使用更小、更快的模型,”微软 Windows 与设备负责人 Pavan Davuluri 在 10 月 7 日的 PC 发布活动上表示。
微软 CEO Satya Nadella 在活动上表示,混合智能将无处不在,模糊云端 AI 与 PC 之间的界限。
“我只想在我试图完成的事情那种无缝流程中,随时随地使用我的计算能力,”他说。
智能体 AI PC
微软认识到,高昂的云端 token 账单正让企业对扩大 AI 规模犹豫不决。它的答案是:将不需要云端模型的 AI 任务卸载到 AI PC 上。
J. Gold Associates 分析师 Jack Gold 表示,未来三到四年,约 10% 至 15% 的 AI 工作负载将在 PC 上运行,40% 至 45% 在云端运行。
“企业将需要 AI 加速的 PC,而且在某个时候,我们很可能会看到人们重新重视购买更新的机器,”Gold 说。
于是智能体 AI PC 登场了,它们可以在 PC 上运行智能体、生成视频、编写代码,并与先进的生成式 AI 模型聊天。如果 PC 无法完成这项工作,它就会被发送到云端。
“一年前,这类能力还是前沿云端模型所独有的。现在你可以让这些能力在你的 PC 上运行,”微软的 Davuluri 说。
智能体 AI PC 配备了强大的 GPU,它们是数据中心 GPU 的远亲。Nvidia 的 RTX Spark 超级芯片——搭载 Blackwell GPU——为其中许多设备提供动力,包括微软新的 Surface Laptop Ultra。
Nvidia 产品管理高级总监 Gerardo Delgado 表示,与较早的 AI PC 不同,新的智能体 PC 可以运行完整的 AI 模型,并且拥有足够的算力让它们快速运行。它们为用户和企业提供了一条推进 AI 项目的路径。
“对我们来说,AI PC 就是那种……运行这些本地模型,让你能够真正保持智能水平并享受经济收益的 PC,”Delgado 说。
本地优先的设计
惠普全球 Z 工作站产品经理 Brian Allen 表示,惠普新发布的 ZBook Ultra G3a 移动工作站搭载 AMD GPU,可免费生成 token 并削减云账单。
“它可以部署在本地。他们不必担心机密信息流向云端,也不必操心 token 用量追踪和每周 1000 美元的费用,”Allen 说。
ZBook Ultra G3a 搭载了 Perplexity 的 Portable Computer 服务,其智能体可以将本地模型与云端的前沿模型连接起来。
例如,一台智能体 PC 可以在没有网络连接的情况下,在 Autodesk 的 Revit 3D 建模软件中处理基于 AI 的基础设计工作。对于更高级的设计工作,Perplexity 可以将其交由云端 19 个前沿模型中最合适的一个来处理。
Allen 表示,设计师很可能会将一般任务交给云端的前沿模型处理,而将专有工作保留在本地。
惠普在 Windows 任务栏中提供了 Perplexity 工具的链接。Perplexity 为 Revit 提供了 MCP 连接器,用户只需输入自己的需求即可。
“我可以对‘嘿,帮我构建这个’进行上下文输入,而不必了解其中的细节,”Allen 说。掌握 Revit 的复杂细节需要数年时间,但“我真的可以通过智能体 AI 在几个小时内学会如何使用 Revit,”他说。
编程灭虫
微软演示了本地模型如何节省通常会在云端产生的 token 成本。
一个团队无法复现某个软件 bug,于是 GitHub Copilot 在云端选择 GPT-6 Luna 来分析代码。随后,云端模型将构建和测试工作移交给在 PC 上运行 MAI Code 1.1 Flash 的本地子智能体,以复现该 bug。
本地工作是免费的。一位 GitHub 产品经理在演示中表示,一个子智能体向本地模型输入了 160 万个 token 的代码和上下文,本地模型则生成了 10,500 个 token 作为响应。
为了实现这一点,微软压缩了拥有1300亿参数的MAI Code 1.1 Flash模型,使其能够在PC上运行。
“我们已将这一模型的精度降至三比特,使其体积缩小了近80%,同时保持了编码质量,”Davuluri说。
该演示使用了GitHub的HydraFusion功能,该功能可在本地模型与云端之间转移编码任务。微软正将该功能引入面向Windows Copilot+ PC的GitHub Copilot应用。
仍有许多挑战
分析师Gold表示,在PC上使用智能体AI并不像安装模型或软件那么简单。企业还需要根据企业环境中的应用场景,为此类PC开发和定制模型。
Gold表示,可在这些机器上定制的开源AI模型可能“大幅降低AI成本并提高投资回报率”。
此外,首批上市的智能体 AI PC 价格高昂。微软的 Surface Laptop Ultra 起价约为 2600 美元,配齐所有功能后可达 6000 美元。
姊妹刊物 PCWorld 的高级记者 Mark Hachman 在产品评测中写道,一台更便宜的笔记本电脑可以使用云端 AI 模型完成同样的工作,而且随着新模型的推出,Surface 可能很快就会过时。
分析师预计,PC 价格将一直居高不下,直到 2027 年底,部分原因是零部件成本高企、伊朗战争以及不确定的经济环境。
IDC 集团副总裁 Tom Mainelli 在 LinkedIn 的一篇帖子中写道,混合 AI 环境是前进的方向,但在 PC 或云端使用 AI 目前还并不完全无缝。
“要让其中大部分惠及普通用户,还需要在零部件定价、模型演进、智能体用例等诸多方面发生许多不同的变化,”Mainelli 写道。
惠普仍在努力为智能体AI PC寻找市场。Allen表示,对客户来说,学习如何使用它是一个漫长的过程。
“他们正处于‘这台PC好得令人难以置信’的阶段……‘让我在自己的RAG模型上跑个基准测试,看看它到底表现如何,’”Allen说。