Marvell 光子模块让 HBM 内存远离 GPU 达 50 米
Marvell’s Dave Lazovsky is holding a tiny module that uses photonics to move high-bandwidth memory (HBM + DDR) as far as 50 meters away from the GPU.
AI 导读
Marvell 的 Dave Lazovsky 展示了一个光子模块，可将 HBM + DDR 高带宽内存搬到距 GPU 最远 50 米处，而传统距离仅 1.5 mm。延迟保持在数百纳秒级，接近实用内存访问水平。内存与算力由此可独立扩展，AI 集群无需再把大容量内存锁在加速器封装内。
正文 · AI 翻译
Marvell 的 Dave Lazovsky 正拿着一个微型模块，该模块利用光子技术将高带宽内存（HBM + DDR）移至距 GPU 最远 50 米处。
这可以放置在距 GPU 最远 50 米的位置，而非通常的 1.5 毫米。
内存首次不再必须紧邻计算单元，使 AI 集群能够共享海量容量，而无需被锁定在加速器封装内。
延迟保持在数百纳秒级，已足够接近实用内存访问水平。基本上，内存与算力如今可在各自独立的维度上扩展，而不再被捆绑在一起。https://t.co/jl7wyH9gfd