Micron's next-generation AI memory vHBM faces heat dissipation challenges: targeting mass production in 2028, bandwidth upgrades become key

美光科技正开发新一代垂直高带宽存储器（vHBM），计划将DRAM直接堆叠在处理器上方，缩短存储器与运算单元之间的数据传输距离，进一步提升带宽，以满足人工智能（AI）推理工作负载对性能与容量日益增加的需求。不过，这项架构也带来新的散热难题，可能影响未来的采用规模。

根据《Benzinga》报道，在近期举办的技术与产品网络研讨会上，美光发表了一份技术蓝图，规划高带宽存储器持续演进至2030年的HBM6。该公司同时也提出了一系列旨在提升带宽、容量和能源效率的新型架构。

法国巴黎银行股票研究部资深分析师Karl Ackerman特别指出，vHBM是这份技术蓝图中较具重要性的发展之一。

传统HBM通常通过中介层（interposer）将存储器与处理器并排配置，vHBM则改采垂直堆叠方式，直接将存储器放置于运算芯片上方。由于两者之间的传输路径缩短，这种设计有望提高带宽，让AI系统更有效率地传输数据。

报道指出，这项发展之所以重要，是因为存储器正日益成为限制AI系统性能的因素，而不再只是附加于加速器的零部件。随着AI模型的部署规模扩大，向处理器供应数据的能力，可能变得与处理器本身同样重要。

根据研究报告，美光目标在2028年开始量产vHBM，并计划在2030年前推出三代产品。这项时程显示，vHBM属于中长期发展机会，而非能立即推动获利增长的动能。

vHBM带宽提升伴随散热难题

不过，这项架构也带来新的挑战。Ackerman指出，将存储器直接放置于处理器上方，会妨碍处理器散热，形成散热方面的取舍，可能限制这项技术的应用方式与范围。

因此，他预期vHBM未来将与传统HBM并行使用，而非全面取代既有架构。AI存储器市场可能持续采用多种设计，由系统业者依照带宽需求、散热限制及封装复杂度，选择合适的组合。

这项区别对投资人而言相当重要。具发展潜力的架构，不代表必然能获得广泛采用，或带来更高的经济效益。美光及其客户必须确保，这项技术带来的性能优势足以抵销相关成本，同时还须处理系统的散热与功耗问题。

同时，美光的技术蓝图还包括另一种专用存储器架构：垂直边缘推理存储器（vEIM）。这项设计将低功耗LPDDR存储器，堆叠在边缘设备的逻辑芯片之上。

美光第一代设计的目标带宽为每秒2TB，每比特能耗低于1皮焦耳，目标同样是在2028年开始量产。

美光短期获利仍看HBM与服务器存储器

分析指出，美光短期内的获利动能仍主要来自高带宽存储器、服务器DRAM、企业级固态硬盘，以及供应吃紧的市场环境。

Ackerman在研究报告中指出，美光预期供应紧张的情况至少还会持续两年。至于vHBM，则代表美光有机会在中长期进一步拓展AI存储器市场。

对投资人而言，关键在于美光能否将架构上的技术进展转化为获得市场采用的商业产品，同时避免散热与制造方面的挑战削弱其技术优势。