起源：重庆西部和东南部等地将有大到暴雨作者： 蒋廷湖：

下一代AI芯片：用光衔接HBM

为解决人为智能（AI）芯片所面对的“内存墙」剽一持久挑战，凭据韩媒zdnet报导，内存封装领域在会商选取新一代AI芯片设计，将图形处置单元（GPU）或ASIC推算单元和高带宽内存（HBM）拆分隔来进行独立封装，而后通过“光学互联”技术来衔接它们，能够将当前8颗HBM的装置数量提升到此刻的数倍。

只管每一代GPU机能都在大幅提升，但存储数据的供给速度远远跟不上，HBM固然提供了更宽的数据通路，但面对AI运算需要的爆炸式增长，带宽和传输速度依然不及。出格是随着高带宽内存（HBM）堆叠层数从12层、16层向20层以上迈进，垂直堆叠技术已走到临界点——不仅工艺难度呈指数级上升，JEDEC甚至已放宽HBM高度规范，但更大的瓶颈在于：GPU芯片周围的包容HBM的空间已耗尽，无法再横向增长HBM数量。

从前，HBM一向紧贴在GPU旁边，这是为了最幼化数据传输延长的必然选择。然而，在2.5D封装结构下，GPU芯片的“海岸线”——边缘的长度严格限度了可包容的HBM数量，GPU芯片周围的现有空间已经无法装置更多HBM。

一位韩国大型存储厂商的钻研人员向ZDNet泄漏：“目前，我们正致力扩大HBM的带宽和容量，但我们在与客户会商若何通过光衔接克服GPU的‘海岸线’限度，能够装置更多的HBM。”

具体而言，HBM可能被安设在距离GPU数厘米的地位，萦绕GPU环形分列，或在电路板中央设立独立的HBM区域。由于光信号传输速度远快于电信号，物理距离的增长不会造成显著的延长损失，却能够彻底脱节GPU边长对HBM数量的限度。

这意味着，AI芯片厂商不必要内存厂商拼命堆高HBM层数，就能够将HBM水平铺展，在统一块基板上搭载比目前无数倍的容量，从而将整个AI加快器系统的内存容量和数据带宽推向前所未有的水平。

“所有可能性都摆在桌面上会商，”上述钻研人员暗示，“从充分利用GPU周边空间的规划，到将HBM齐全隔离到GPU基板下方的规划都有涉及。后者必要显著扩大主板尺寸和扭转整体状态，目前已与GPU厂商发展会商。”他强调，这些还属于下一代AI加快器的先行钻研，尚未定案。

利用光学互连技术来衔接GPU和HBM的设想并非子虚乌有。在2025年的Hot Chips大会上，Celestial AI已展示了其光子互联？，该技术使用光来衔接下一代大规模GPU与加快器中的芯片，并可将光学接口安插在ASIC芯片中央，将周边空间留给HBM的电接口。

从产业化角度来看，全球OSAT厂商的一位高管对ZDNet暗示：“光学互连已是明确的趋向，问题只在机遇。”他预测，技术落地将按规模由大到幼推动——先在机架与机架之间、服务器与服务器之间选取光学衔接，而后再进入单板内部的芯片间光互连。但他同时指出，目前光学钻研速度非？，芯片间光互连的功夫点可能不会太遥远。

一位韩国CPO器件开发企业的有关人士指出，GPU与HBM之间的光学互连，与数据中心服务器间的光通讯道理一样，但必须将正本用于大型设备的光电转换技术缩幼到芯片级别，“光学元件必要做得更幼、集成度更高，技术难度更大。”

编纂：芯智讯-浪客剑