The More Agents, the Better Intel Looks: Xeon 6+ and KV Cache Tiering Complete the AI Infrastructure

智能体越多，英特尔越香原创来源：半导体产业纵横发布时间：2026-11-03 16:35作者：方圆英特尔芯片设计生成海报从沙箱到分层KVCache，英特尔补齐AI基建短板。

如果一家企业准备部署1000个智能体，除了购买GPU，还需要准备什么？

答案可能比想象中复杂。每个智能体都需要执行环境，需要内存保存运行状态，需要存储记录上下文，还需要CPU协调任务、调用工具。随着智能体数量增加，原本不太起眼的资源消耗，也可能成为数据中心的一笔大开支。这也是AI产业正在发生的一个变化。过去两年，行业的竞争焦点主要集中在大模型和GPU算力上，但当AI开始从回答问题走向自主执行任务，基础设施面临的压力也从单纯的模型计算扩展到了执行环境、内存管理、数据存储和传输等环节。

10月29日，在2026腾讯全球数字生态大会英特尔专场上，英特尔与腾讯云展示了围绕至强处理器、智能体沙箱、内存压缩和KV Cache存储展开的多项合作。值得注意的是，英特尔发布这些技术的同一天，还公布了2026年第三季度财报。公司营收达到165亿美元，同比增长21%；其中数据中心和人工智能事业部（DCAI）营收达到73亿美元，同比增长78%，成为增长最明显的业务板块。

01 至强6+落地腾讯云，沙箱并发成为重要突破口

此次大会上，英特尔至强6+处理器首次在腾讯云新一代云实例中落地。

至强6+属于英特尔Clearwater Forest产品线，基于18A制程，最高拥有288个能效核（E-core），更加注重高密度计算和能效表现。腾讯云基于该处理器推出新一代CVM云实例，根据现场披露的数据，综合性能相比上一代提升30%以上，主要面向云原生、高并发以及智能体任务编排等场景。

除了处理器性能，英特尔与腾讯云此次更值得关注的合作是CubeSandbox。智能体与传统聊天机器人不同，它不仅需要生成内容，还需要执行代码、调用工具和访问文件。这些操作存在潜在安全风险，因此需要通过独立的执行环境进行隔离。腾讯云开源的CubeSandbox正是针对这一需求设计的弹性智能体沙箱计算平台。它采用MicroVM微型虚拟机，并结合快照和资源复用技术，使多个沙箱能够共享基础镜像、未修改的内存页面和文件缓存，只为发生变化的部分额外占用资源。

例如，基于同一个镜像创建3000个虚拟机，如果每个虚拟机只修改2MB内存，那么在基础资源充分共享的情况下，新增内存占用只需要约6GB。这种方式可以减少传统执行环境中的资源冗余，提高单机部署密度。在此基础上，双方还针对Cgroup、网卡资源池以及OpenCloudOS内核执行路径进行了联合优化。根据现场公布的测试结果，在满足200毫秒SLA要求的情况下，搭载至强6+的CubeSandbox单机可以支持350个沙箱并发创建请求，较对照平台提升约46%。同时，即使在高负载条件下，沙箱创建的P99时延仍然比较稳定，随着并发密度增加，时延也没有出现明显恶化。所以价值并不只是增加CPU核心数量，而是通过处理器、操作系统和沙箱软件的联合调优，提高实际业务中的执行效率。对于需要大规模部署智能体的云服务商来说，执行环境能否快速创建、稳定运行，直接关系到服务器利用率和部署成本。

02 IAA与QAT各司其职，内存和KV Cache成为新瓶颈

如果说沙箱解决的是智能体在哪里工作，那么内存和存储解决的就是它工作过程中产生的数据放在哪里。智能体运行时间越长，保留的上下文和任务状态就越多。尤其是在多个智能体同时执行任务时，内存容量很容易成为服务器部署密度的限制因素。针对这一问题，英特尔与腾讯云展示了基于IAA的内存压缩方案。

IAA即英特尔内存分析加速器，是集成在至强处理器内部的专用硬件加速单元，能够承担特定压缩和解压缩任务，减少通用CPU的计算负担。腾讯此次采用操作系统Zswap机制，对不活跃的内存页面进行压缩，测试对象为2MB大页。此前使用LZ4、ZSTD等软件方案时，多路并发解压容易出现内存带宽争抢，造成时延增加。最终，双方选择IAA-batch-8配置，并对驱动和内核路径进行了轻量化适配。根据公布的数据，相比软件压缩方案，IAA平均耗时提升16倍，最大耗时提升9倍。在256路并发综合压力测试中，IAA方案平均耗时为56微秒，最大耗时为564微秒。这说明它可以在提高内存利用率的同时，尽可能减少解压缩对业务响应的影响。对于需要同时运行大量智能体的云平台来说，内存压缩不仅是节省空间的问题，也是能否维持业务时延的问题。

另一个值得关注的方向是KV Cache。KV Cache是大模型推理过程中保存上下文计算结果的重要机制。传统问答场景中，模型回答完问题，一次交互基本结束。但智能体可能持续执行多个步骤，反复搜索、读取文件和调用工具，上下文不断积累，KV Cache也会越来越大。

如果所有缓存都放在GPU显存中，容量和成本都会面临压力。因此，将KV Cache在GPU显存、CPU内存和SSD之间进行分层管理，正在成为推理系统优化的重要方向。英特尔此次展示的方案采用存算分离架构，通过RDMA连接GPU、CPU和后端存储，结合自研KV Shrink分层KV软件，以及至强处理器内置的QAT加速器，实现缓存数据的分层存储、传输和压缩。这里需要区分IAA与QAT。IAA主要面向内存页面压缩，而QAT主要承担数据压缩、解压缩等加速任务，两者并不是同一种技术。

在测试中，采用Qwen2.5-32B-Instruct模型，输入8000 Token、输出128 Token，并在64GB DDR内存限制下进行测试。当KV Cache能够100%命中后端高性能存储时，相比不进行缓存复用的原生vLLM方案，TTFT下降90%；在并发数为8、16和32的情况下，吞吐量分别提升超过5倍、6倍和8倍。此外，开启QAT压缩后，整体吞吐量没有明显变化，但可用容量提高了近20%。

03 GPU、软件生态与端侧智能：英特尔的下一张牌是什么？

除了至强处理器和内置加速器，此次英特尔还介绍了面向智能体推理的GPU产品布局。其中值得关注的是GPU D系列，代号Crescent Island。这款产品基于Xe3P架构，最高支持480GB LPDDR5X内存，内存带宽达到1.5TB/s，FP8算力最高为1.3PFLOPS，功耗约350W。与传统强调峰值算力的GPU不同，Crescent Island更加注重显存容量和能效表现。大容量内存能够容纳更多模型参数和KV Cache，适合长上下文、多用户并发以及持续运行的推理工作负载。英特尔公布的产品定位是，单卡最高支持3000亿参数模型运行，八卡系统支持超过1万亿参数模型运行。目前，该产品已经进入客户送样阶段。

这反映出英特尔在GPU市场上的另一种思路：在竞争激烈的算力市场中，通过大显存、相对较低功耗和现有数据中心的风冷部署条件，寻找差异化市场。不过，GPU市场的竞争不仅取决于硬件规格，软件生态同样重要。英特尔正在通过SYCL、SYCL-TLA等开放软件技术，以及AI Agent辅助代码迁移工具，降低CUDA项目向英特尔平台迁移的成本。其现场展示的实验中，10个不同项目通过大模型和专用Skill完成了初步迁移，随后仍需要进一步进行算子优化。

在终端市场，英特尔也在推进端云混合智能。此次大会展示了与腾讯合作的WorkBuddy、Marvis本地智能体方案。Marvis提供近20个本地技能，WorkBuddy则集成30多个本地或混合专家，部分任务可以通过本地模型和OpenVINO加速完成。因此，英特尔的AI布局并不局限于数据中心，还希望将模型推理、任务执行和隐私保护能力延伸至AI PC。云端负责复杂推理，终端负责部分低时延、高隐私需求的任务，这种混合模式也为PC处理器、集成GPU和端侧AI软件带来了新的应用空间。

04 英伟达与AMD，也在加码

英特尔并不是唯一看到这一市场变化的厂商。英伟达和AMD近期也在围绕智能体重新调整产品布局，而且两家公司的方向已经从单一GPU产品延伸至CPU、存储和系统架构。

除了英特尔，英伟达在本届大会上也专门围绕AI基础设施进行了分享。英伟达介绍了面向AI工厂的五大网络基础设施：Scale-Up、Scale-Out、Scale-Across、Context Memory和Scale-In，分别对应GPU高速互联、服务器集群扩展、跨数据中心连接、上下文存储以及基础设施管理。其中，Context Memory尤其值得关注。随着智能体任务不断积累上下文，KV Cache规模持续增长，英伟达希望通过网络和存储架构，让不同计算节点能够共享和访问缓存数据，减少重复计算。这与英特尔通过QAT和KV Shrink优化KV Cache的方向不谋而合，只是英伟达更加侧重网络互联和集群级资源管理。BlueField-4、DOCA等技术的引入，也说明DPU正在从传统的数据传输和卸载工具，进一步参与AI基础设施的数据访问、安全和管理。

AMD则带来了另一个值得关注的方向：端侧AI与存储协同。其与江波龙、六联智能等合作伙伴展示了基于锐龙AI Max+ 395的智能体主机方案，并结合江波龙的AIDIMM高带宽内存、iSA存储智能体和AISSD，解决本地运行大模型时的内存容量和数据调度问题。其中，AIDIMM采用LPDDR5X颗粒和256bit位宽设计，iSA则通过MoE专家动态卸载、缓存分层和数据预取等方式，协调DRAM与SSD之间的数据流动。江波龙公布的联合测试显示，64GB AIDIMM配置可支持70B、80B及122B级别模型的本地运行，相关方案还延伸至搭载AISSD和iSA的AMD锐龙AI Halo开发者平台。这种设计的意义在于，不再要求所有模型数据都驻留在DRAM中，而是根据运行需求，将数据分配到不同存储层级。对于内存容量有限的端侧设备来说，这为运行更大规模的模型提供了新的思路。

从云端的KV Cache管理，到端侧的内存与SSD协同，可以看到存储正在从传统的配套硬件，变成影响AI推理效率的重要组成部分。英伟达关注的是数据中心内部的高速连接和缓存共享，AMD及其生态伙伴则在探索如何通过存储分层突破端侧设备的内存限制。两种不同的路径，实际上都指向同一个趋势：AI基础设施的竞争，正在从计算芯片本身向内存、存储和数据流转等环节扩展。

05 结语

从此次腾讯全球数字生态大会的展示，到英特尔最新的第三季度财报，可以看到一个值得关注的变化：数据中心正在重新成为英特尔的重要增长来源，而智能体可能进一步扩大服务器CPU、内存和存储等基础设施的需求。

对整个半导体产业而言，智能体带来的变化可能比一轮单纯的GPU升级更加深远。当AI开始持续执行任务，决定基础设施成本的就不再只是模型每秒能生成多少Token，还包括执行环境的创建速度、上下文的存储成本、数据的传输效率，以及整个系统的能源利用率。

过去，半导体产业竞争的是谁能提供更强的计算能力；而智能体时代，竞争正在转向谁能以更低的系统成本，把计算能力转化为更多真实的工作成果。

此内容为平台原创，著作权归平台所有。未经允许不得转载，如需转载请联系平台。评论暂无用户评论最新资讯更多 相关推荐

全球手机出货大跌19%，营收逆势增3%2026-11-03 16:28

苹果的机器人，不是人形路线2026-11-03 16:24

安森美6亿美元收购Ferric，AI芯片供电战火蔓延至封装内部2026-11-03 16:17