AI News

Breaking Down the Modern CPU: Instruction Set Architecture, Microarchitecture, and the AI Acceleration Revolution

Semiconductor Industry ObserverUpdated Nov 16 21:11

English text is being prepared.

AI summary

A modern CPU works through the coordination of a control unit and a datapath. x86 and Arm are the two most widely used instruction set architectures, while RISC-V is penetrating from microcontrollers into PCs, servers, and AI chips. CPUs rely on pipelining, out-of-order execution, and branch prediction to boost throughput, and modern branch predictors achieve accuracy rates above 95% on regular code. In recent years, CPUs have commonly integrated dedicated accelerators for encryption, video encoding and decoding, and more, and have added NPUs specifically to run AI tasks such as real-time speech transcription and local large models.

Body

拆解现代CPU:底层架构、指令集与AI加速变革来源:半导纵横发布时间:2026-11-16 15:17CPU技术文章生成海报CPU的核心组成单元是如何配合,驱动计算机运行?

CPU常被称作计算机的大脑。和人脑一样,它由多个部件组成,协同完成信息处理:一部分负责接收信息,一部分存储信息,一部分处理信息,还有一部分把结果输出。本篇科普将带大家认识CPU的核心组成单元,以及它们如何配合,驱动计算机运行。

拆解电源这类硬件时,你可以直观看到电容、变压器等元器件。但现代CPU做不到这一点:内部器件尺寸极小,而且Intel、AMD、Apple、Qualcomm等芯片厂商只会对外公布高层级设计框架。芯片内部实际电路属于商业机密,本文介绍的是所有CPU通用的基础特性。

CPU的底层蓝图

研究CPU时,最先接触的概念是指令集架构(ISA),它相当于CPU的设计蓝图,定义CPU能实现哪些功能、软件如何和它交互。就像同一物种下有很多品种的狗,CPU也可以基于不同的指令集架构开发。

应用最广泛的两类是x86与Arm。x86在台式机、笔记本、服务器领域占据主导;Arm几乎用于所有智能手机,应用范围早已突破移动端。Apple在2020年把Mac平台迁移至自研Arm芯片;Qualcomm的骁龙X系列处理器让Arm进入Windows设备;如今Amazon、Nvidia、Google的云服务器与AI芯片,也有越来越多采用Arm架构。

除此之外还有其他架构。RISC-V是一套开源、免授权费的指令集,已经从小众项目成长为有力竞争者。数十亿颗RISC-V内核已经搭载在微控制器中,该架构也正逐步向PC、服务器、AI芯片渗透。MIPS、PowerPC等老牌指令集,则退守小众场景。

指令集架构规定了CPU可以处理哪些指令、软件可以调用哪些寄存器、内存寻址方式等内容。 而芯片实际执行指令的方式,包括流水线、缓存、执行单元,被称为微架构,这也是各大芯片厂商的竞争焦点。

AMD的Zen 5核心、Intel的Lion Cove核心都可以运行同样的x86程序,但二者内部实现差异巨大。指令集架构也在持续迭代:Intel和AMD在2024年成立x86生态顾问小组,协同规划架构后续扩展指令。

接下来我们会顺着一条指令的执行流程,介绍CPU的主要模块。不同指令的执行路径不同、调用的硬件单元也不一样,本文会做概括讲解,覆盖核心模块。

我们会从单核处理器最基础的设计讲起,逐步增加复杂度,过渡到现代CPU架构。

控制单元与数据通路

基础CPU框图:黑线代表数据流,红线代表控制信号流。

CPU可以划分为两大模块:控制单元、数据通路。可以用火车类比:动力装置带动列车前进,但司机在后台操控手柄,控制动力装置的各项状态。CPU也是同理。

数据通路就相当于动力装置,顾名思义,是数据在处理过程中流转的通道。数据通路接收输入数据、完成运算处理,处理结束后把数据送往指定位置。控制单元则像司机,指挥数据通路如何工作。根据不同指令,控制单元向各个部件发送信号,开启或关闭数据通路的不同模块,并监控CPU运行状态。

指令周期:取指

CPU首先要确定下一条需要执行的指令,把指令从内存读取到CPU内部。指令一般由编译器生成,并且适配该CPU对应的指令集架构。不同指令集都会包含加载、存储、加法、减法这类通用指令,但也会有专属的特殊指令。控制单元清楚每一类指令该如何分发信号。

举个例子,在Windows上运行exe程序时,程序代码会载入内存,CPU会收到第一条指令的起始地址。CPU内部会有一个寄存器,持续保存下一条待执行指令的内存地址,这个寄存器叫做程序计数器(PC)。

确定起始地址后,指令周期第一步就是取出指令:把指令从内存送入CPU的指令寄存器,这一步称为取指阶段。实际场景中,这条指令大概率已经存放在CPU缓存里,缓存相关内容后面会介绍。

现代CPU并不会一次只取一条指令。每个周期会读取数十字节的数据块,里面可以存放多条指令。取指单元也不会被动等待地址指令,后面会讲到的分支预测器会持续预判程序走向,提前完成取指,保证CPU后端不会空闲。

指令周期:译码

CPU拿到指令后,需要识别这条指令的类型,这个阶段就是译码阶段。每条指令都包含一段比特编码,也就是操作码(Opcode),CPU依靠操作码识别指令,类似文件后缀帮助系统识别文件格式。比如jpg和png都是图片,但数据组织方式不同,系统需要识别类型才能正确解析。

指令集的复杂程度,会直接决定译码电路的难度。RISC-V基础指令集只有几十条指令(可选扩展会增加指令);而x86指令数量超过一千条,很多指令还有多种变体。x86指令长度在1~15字节之间不等,CPU必须先区分相邻指令的边界,才能完成译码。

这也让译码单元成为Intel、AMD的x86 CPU里设计难度最高、占用面积较大的模块之一。与之对比,Arm指令固定为4字节,这也是Apple的核心每个周期可以同时译码8条甚至更多指令的原因之一。

为降低译码压力,x86 CPU会把复杂指令拆解成更简单的内部微操作(微指令),并且把最近译码得到的微指令存放在专用微指令缓存中。

循环代码会反复运行,这时CPU可以直接跳过译码单元,读取微指令缓存。Intel从2011年Sandy Bridge架构开始使用这项技术,AMD从2017年初代Zen架构开始采用。

CPU译码处理的指令主要分为三类:内存访问指令、算术运算指令、分支指令。

三大指令类型

内存指令示例:“读取内存地址1234的值存入变量A”,或是 “把变量B写入内存地址5678”。 算术指令示例:“变量A加上变量B,结果存入变量C”。 分支指令示例:“如果变量C为正,执行这段代码;如果变量C为负,执行另一段代码”。

普通程序会把这些指令串联起来,例如:“将内存地址1234的值与5678的值相加,如果结果为正,存入4321地址;结果为负则存入8765地址”。

在执行译码完成的指令之前,我们先介绍寄存器:CPU内部有少量容量极小、速度极快的存储单元,也就是寄存器。64位CPU的通用寄存器每个可以存放64比特数据,数量很少:x86架构有16个通用寄存器,Arm有31个。CPU还配有位宽更大的向量寄存器,最高可达512比特,用来批量处理多组数据。

寄存器存放正在使用的数据,可以理解成存储层级最顶端(类似L0缓存),速度比L1缓存还要快。上面例子里的A、B、C变量,都存放在寄存器中。

上面说的是软件可见的寄存器。在底层,现代CPU拥有数百个物理寄存器,依靠寄存器重命名技术,把大量物理寄存器映射到程序能访问的少量寄存器上。

这项技术让CPU可以并行处理多条指令,避免不同指令互相覆盖数据,在乱序执行中起到关键作用。

执行阶段与算术逻辑单元(ALU)

接下来进入执行阶段,三类指令的执行方式各不相同,我们分开说明。

先讲算术指令,最容易理解。算术指令会送入算术逻辑单元(ALU)处理。ALU是一类电路,一般接收两组输入数据与控制信号,输出运算结果。

可以类比中学使用的计算器:输入两个数字、选择运算类型,计算器完成计算并返回结果。

CPU的ALU中,运算类型由指令的操作码决定,控制单元把对应信号发给ALU。除基础四则运算之外,ALU还可以完成与、或、非、异或等位运算。ALU同时会向控制单元返回运算状态信息,比如结果正负、是否为零、是否溢出。

这也是现代CPU在相近主频下,性能远高于老款处理器的重要原因。现代CPU核心不会只有一个ALU。高端架构会配备6个甚至更多并行整数ALU,还有独立的浮点单元、向量执行单元,向量单元可以对一批数据同时执行相同运算。

ALU主要用于算术运算,但也会服务内存、分支指令。比如CPU需要根据上一步运算结果,计算内存访问地址;或是计算分支指令需要加到程序计数器上的偏移量,例如 “如果上一步结果为负,向后跳转20条指令”。现代CPU里,内存地址计算一般交给专用地址生成单元(AGU),原理是相通的。

内存与缓存层级

处理内存指令,需要理解存储层级的概念,也就是缓存、内存、大容量存储之间的速度与容量关系。

当CPU执行内存指令,需要的数据不在寄存器里时,就会沿着存储层级逐级查找。绝大多数现代CPU包含三级缓存:L1、L2、L3,部分新款架构加入第四级缓存。

CPU最先查找L1缓存,它容量最小、速度最快。L1缓存一般拆分为数据缓存与指令缓存。指令和数据一样,都需要从内存读取。

单个核心的L1缓存容量很小,数据、指令缓存通常各32~64KB。如果L1没有命中,CPU就去查找L2缓存。当前桌面处理器的单核心L2缓存一般为1~3MB。

再往下是L3缓存,容量通常几十MB,由多个核心共享。AMD的X3D系列芯片在处理器上堆叠额外64MB L3缓存,这也是它游戏性能突出的原因 —— 游戏负载非常依赖大容量缓存。

如果L3缓存也没有找到目标数据,CPU就访问内存;内存中同样没有的话,操作系统就要从硬盘读取,速度会慢得多。沿着存储层级往下,容量大致提升一个数量级,但访问延迟也同步增加。

CPU找到数据后,会把数据向上加载到缓存,后续再次访问时就可以高速读取。整个流程步骤很多,但保证CPU可以快速获取所需数据。

参考大致延迟:寄存器访问只需要1~2个周期;L1缓存几个周期;L2缓存十几周期;L3缓存几十周期;访问内存需要数百周期;读取SSD要几十万周期;机械硬盘则需要数百万周期。

一般每个核心拥有独立的L1、L2缓存;L3缓存由一组核心共享,例如AMD Zen5一个芯粒上的8个核心共享同一块L3。Intel的能效核是例外,4个一组共享L2缓存。多核CPU的内容后面会继续介绍。

分支、流水线与分支预测

三大指令里最后一类是分支指令。现代程序会频繁跳转,CPU连续执行十几条无分支指令的情况很少见。

分支指令来自if判断、for循环、函数调用、返回语句等代码结构,用来中断顺序执行,跳转到代码其他位置。还有无条件跳转指令,属于一定会触发跳转的分支指令。

条件分支对CPU的挑战很大:CPU可能同时执行多条指令,等到确认分支结果时,后续指令已经开始处理了。

要理解这个问题,先介绍流水线。指令周期的每一步都需要数个时钟周期。如果一条指令在取指时,ALU就会闲置。为提升利用率,不同指令的执行阶段互相重叠,这套机制就是流水线。

一个通俗类比:洗衣服。两桶衣服,洗涤、烘干各需要一小时。方案一:洗完第一桶再烘干,再启动第二桶,一共4小时。方案二:第一桶烘干的时候,启动第二桶洗涤,两桶3小时就能完成。

单桶衣物总耗时不变,但重叠流程提升整体吞吐量;任务越多,效率提升越明显。

2011年AMD低功耗Bobcat核心的流水线,就算是这种相对简单的架构,流水线级数也超过十几级。

CPU利用流水线提升指令吞吐。现代Arm、x86核心流水线一般有10~20级。同时现代核心每个流水线阶段可以处理多条指令、支持乱序执行,高端核心同一时间内可以有上百条指令处于处理中。不同架构划分方式不同,举例:取指4周期、译码6周期、执行3周期、写回与提交7周期。

回到分支问题,现在就能明白痛点:如果直到第10个周期才识别出这是分支指令,前面已经启动了9条后续指令;一旦分支跳转生效,这些指令全部无效。为解决这个问题,CPU内置复杂的分支预测器。

部分预测器还借鉴机器学习思路,使用感知机这类简单神经网络,预判分支是否跳转。分支预测器的底层原理非常复杂,超出本文范围;简单来说,它会记录历史分支结果,预判下一次分支走向。

在常规代码上,现代分支预测器的预测正确率超过95%,而且预判非常靠前,有时分支指令还没译码,预测器就已经预估程序跳转方向。

当分支结果最终确认(流水线执行到对应阶段),程序计数器更新,CPU继续执行正确指令。如果预测错误,CPU会丢弃这条分支之后已经预执行的所有指令,从正确位置重新开始。

同时有大量指令在流水线中,一次预测错误就会浪费大量算力,这也是芯片厂商持续投入晶体管,优化分支预测器的原因。

乱序执行

了解三类指令的执行方式之后,我们来看CPU的高级特性。几乎所有现代处理器,都不会严格按照指令接收顺序执行。

乱序执行的设计思路,就是尽可能减少等待造成的空闲时间。

如果CPU预判到下一条指令需要的数据还没有准备好,就会跳过这条指令,调度后面互不依赖的指令先执行。为保证程序逻辑不出错,CPU使用重排序缓冲区记录每一条指令。

指令可以任意顺序完成运算,但最终结果提交(提交指令)的时候,严格按照原始程序顺序。站在软件视角,程序运行和代码编写顺序完全一致。前面提到的寄存器重命名,就是配合乱序执行,让无依赖指令并行运行,互不干扰。指令重排是提升性能的核心手段,但并不是CPU唯一的优化技巧。

另一个优化手段是预取。统计一条指令从开始到完成的耗时,内存访问往往占用大部分时间。预取单元持续观察内存访问规律,预判程序接下来需要的数据。

如果程序按照固定规律访问内存,比如遍历大数组,预取单元会提前从内存读取数据送入缓存,等程序请求的时候直接取用,这就是预取。

推测执行与安全隐患

分支预测、乱序执行附带一个值得关注的副作用:CPU预判分支走向时,不只是提前取指,还会推测执行这些指令;预测失败后,直接丢弃运算结果。过去几十年,大家都认为这个过程没有安全风险。

2018年Spectre、Meltdown两大漏洞家族曝光,改变了这个认知:被丢弃的推测执行操作依然会留下痕迹,主要体现在缓存状态里。攻击者可以精准测量内存访问延迟,窃取CPU本不该泄露的数据,比如其他程序的密码、密钥。Intel、AMD、Arm的绝大多数高性能CPU都受到不同程度影响。

Meltdown后续已经通过硬件修复;但Spectre属于一类攻击方式,不是单一漏洞,每年都有新变种出现。

如今芯片厂商在设计核心时,都会考虑这类侧信道攻击;配套的软件防护方案,往往会带来性能损失。这也很好地说明:让CPU变快的技术,同时也会带来安全难题。

现在CPU普遍集成专用加速器,这类电路专门负责单一任务,追求最高效率,例如加密、视频编解码、机器学习。

CPU本身也可以完成这些任务,但专用单元的能效高得多。显卡就是典型例子:CPU可以完成图形运算,但集成GPU的性能高出几个数量级。

近几年新增的重要模块是NPU,也就是神经网络处理单元,专门跑AI任务,比如实时语音转写、本地大模型,同时功耗很低。短短几年,NPU从PC的选配模块,几乎变成标配。

CPU核心本身也增加了专用硬件:AVX-512这类宽向量扩展,一条指令就能同时处理16组数据;更新的矩阵扩展,比如Intel服务器芯片上的AMX、Apple M4搭载的Arm SME扩展,专门用来加速AI矩阵运算。

下图是2008年Intel CPU:绝大部分面积是核心与缓存。 第二张是AMD Mullins移动APU,芯片大部分面积由核心之外的模块占据。

上图:Intel初代Nehalem架构晶圆,核心和缓存占据绝大部分面积。 下图:AMD SoC晶圆,大量面积分配给加速器、外部接口。

独立媒体引擎负责视频编解码,支持AV1编码,录制、推流视频几乎不会占用CPU核心算力。

随着加速器越来越多,CPU核心在芯片里的占比越来越小,笔记本处理器尤为明显,GPU、NPU、媒体引擎和核心集成在一起。

多核架构

接下来介绍多核CPU:把多个独立核心整合到同一块处理器里。这并不只是简单复制单核电路,就像单线程程序很难直接改成多线程程序,硬件层面也存在很多难点,根源是核心之间的数据依赖。

各个核心不会单独直连内存,而是依靠片上互联总线(环形总线、Mesh网格等)互相连通,同时连接共享L3缓存、内存控制器。

多个核心可能访问同一份数据,必须解决缓存一致性问题。如果两个核心同时处理同一份数据,如何保证拿到正确数值?一个核心修改数据之后,如何保证其他核心及时感知?每个核心拥有独立缓存,数据可能重复存储,需要复杂的协议与控制器消除冲突。

一般不同核心运行不同线程的指令流,降低互相依赖。这也是任务管理器里经常看到部分核心满载、其余核心空闲的原因:很多软件没有做多线程优化,或是只拆分少量线程。部分场景下,单核心串行执行的开销,反而比拆分多线程更低。

同步多线程(SMT)

很多CPU支持单个核心同时跑两个线程,这项技术叫同步多线程(SMT),Intel的商品名是超线程(Hyper-Threading)。就算是优秀的乱序核心,也没办法让所有执行单元时刻满载,第二个线程可以填充空闲算力。

在线程并行度高的负载下,SMT一般可以提升10%~30% 吞吐量,同时只增加很少芯片面积。SMT长期是现代CPU的标配,但Intel在Lunar Lake、Arrow Lake的性能核上取消了超线程,转而把资源用来提升单核心性能与能效。Apple、Qualcomm的芯片全程不使用SMT。

混合架构

早年桌面CPU所有核心规格完全一致,现在已经不是必然。借鉴手机芯片思路,很多处理器混合使用高性能大核(P核)、高能效小核(E核)。

部分新款笔记本芯片还加入第三档超低功耗核心,专门处理后台轻量任务。Intel从Alder Lake(12代酷睿)开始采用混合架构,Apple、Qualcomm也采用类似思路。AMD推出精简版Zen c核心,牺牲峰值频率换取更小面积、更高能效。

混合架构的难点在于操作系统需要合理调度任务。Intel的Thread Director(线程调度器)会向Windows上报线程特征,把游戏这类重负载分配给P核,后台更新交给E核。

芯粒与Tile(裸片)

另一大变革是CPU的物理制造方式。我们之前专门写过文章讲解芯粒的价值。思路是不再制造一整块超大硅片,AMD、Intel都把处理器拆成多个小裸片:AMD叫芯粒(Chiplet),Intel叫Tile,封装在同一个封装内互联。

举个例子:Ryzen 9 9950X包含两颗8核计算芯粒,外加一颗独立I/O芯粒,负责内存、PCIe、USB管理。

小裸片良率更高,单颗缺陷影响的硅面积更小;而且每一块裸片可以选用最合适的工艺。代价是裸片之间的数据传输延迟更高,所以调度软件通常会尽量把关联线程放在同一个芯粒上。

Intel Foveros、AMD 3D V-Cache这类先进封装更进一步,支持裸片堆叠。

物理设计:从架构蓝图到硅片

本文大部分内容聚焦CPU架构设计,这也是复杂度最高的部分。但架构最终要落地到物理芯片,带来额外挑战。

时钟信号用来同步处理器内部所有模块。现代桌面处理器主频大多在3GHz~5GHz区间,最高睿频可以达到6GHz以上。过去十年主频提升幅度有限,性能提升主要来自其他架构优化。每个时钟周期,芯片内部数十亿晶体管同步开关。

时钟信号保证流水线每一级同步推进,数据按时抵达。但主频不是CPU性能的唯一决定因素。

性能公式:性能 = 主频 × 每周期指令数(IPC)。本文讲的所有优化 —— 更宽译码器、多ALU、大容量缓存、更优秀的分支预测器,最终目标都是提升IPC。这也是5GHz的现代核心,性能远高于十年前同频老核心的原因。

超频拉高主频可以提升性能,但功耗、发热同步上涨。现在CPU大多自动调频:睿频算法根据温度、功耗、负载动态调整频率与电压,出厂就逼近芯片极限,留给手动超频的空间很小。

热量一直是CPU的一大难题,这点没有改变。现代芯片允许高温运行,温度触达阈值(一般95~105℃)会自动降频。长期损伤来自高温、电压、电流共同作用,慢慢损耗晶体管和金属连线。

这也是桌面CPU配备金属顶盖的原因。CPU内部硅片只占芯片表面约20% 面积;顶盖扩大散热面积,把热量均匀传导到散热器,同时引出大量引脚和外部硬件通信。

现代桌面CPU背面引脚数量上千:AMD AM5接口一共1718个触点,Intel LGA 1851有1851个触点。二者都采用LGA方案:CPU端是触点,针脚放在主板插座上。

笔记本芯片通过上千颗锡球直接焊在主板上。无论哪一种方案,大约一半触点用于供电,其余用于数据通信,对接内存、芯片组、硬盘、PCIe设备等。

高性能CPU满载电流最高可达200安培,需要大量触点分散电流。触点一般镀金,降低电阻。不同厂商、不同产品线的触点排布方案各不相同。

晶体管本身也在持续缩小、结构迭代:TSMC、Intel最新工艺从FinFET转向环绕栅极(GAA)晶体管,栅极完全包裹沟道,控制能力更强、漏电流更低。Intel 18A工艺(用于Panther Lake)引入背侧供电,供电线路放在硅片背面,芯片正面留给信号布线。想要深入了解芯片制造,可以看CPU设计系列的第三篇。

汇总:AMD Zen 5核心内部(Ryzen 9000系列)

最后我们以现代CPU核心 ——AMD Zen 5快速收尾,Ryzen 9000系列搭载该架构。AMD公开了核心框图,前面讲的几乎所有概念都可以在里面找到。

最前端的分支预测器最先工作,预判程序走向,告诉前端单元取哪些指令。指令取自32KB L1指令缓存,TLB辅助缓存记录程序虚拟地址和物理内存地址的映射关系。

指令送入两组并行译码集群,把x86指令翻译成微指令。近期运行过的代码可以跳过译码,直接从微指令缓存读出。每个周期最多向后送出8条微指令。

接下来交由乱序执行模块处理:微指令经过寄存器重命名,存入448项的重排序缓冲区追踪状态;之后进入调度器,等待输入数据就绪。调度器原理比较复杂(研究生级别内容),但它负责挑选就绪的指令执行,同时保证最终提交顺序正确。

指令就绪后,分发到各个执行单元。Zen5配备6个整数ALU、4个用于内存操作的地址生成单元,还有浮点与向量单元,可以执行完整512位AVX-512指令。内存操作依靠48KB L1数据缓存,单核心搭配1MB L2缓存,同一个芯粒上8颗核心共享32MB L3缓存。

运算结果保存,指令按照程序顺序提交,CPU准备接收下一条指令。

本文并不是一份覆盖所有CPU细节的权威手册,目的是帮大家理解CPU内部的复杂机制。说实话,除Intel、AMD、Apple内部人员,没有人掌握它们处理器的全部细节。本文每一个章节,都对应一个独立的研发方向,内容只算是入门科普。

本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。 评论暂无用户评论最新资讯更多 相关推荐

德氪微推出毫米波超高速互连方案,瞄准AI数据中心10米内连接2026-11-16 16:17

用钻石给GPU降温,会不会太昂贵了?2026-11-16 16:14

一颗意法的芯片,为何要由三星在美国造?2026-11-16 16:06

Source

Semiconductor Industry Observer