先进封装专题报告：HBM需求井喷（32页）

行业报告下载 2023年12月17日 07:52 管理员

GDDR 和 HBM 均为针对 AI 和图形运算等高吞吐量应用的存储器架构。但图形芯片性能的日益增长，使其对高带宽的需求也不断增加。随着芯片制程及技术工艺达到极限，GDDR 满足高带宽需求的能力开始减弱，且单位时间传输带宽功耗也显著增加，预计将逐步成为阻碍图形芯片性能的重要因素。以 GDDR5 为例，从单片封装性能对比，HBM 在总线位宽、时钟速率、带宽及工作电压各个性能参数较GDDR5均更具优势。从带宽功耗比的角度来看，相同功率下， HBM 带宽是 GDDR5 的 3 倍以上。而从性能面积比的角度量化，1GB HBM 较 1GB GDDR5 的面积节省多达 94%。高性能计算功耗问题突出。最开始数据中心通过提高 CPU、GPU 的性能进而提高算力，但处理器与存储器的工艺、封装、需求不同，导致二者之间的性能差距逐步加大。

英伟达创始人黄仁勋曾表示计算性能扩展的最大弱点就是内存带宽。以谷歌第一代 TPU 为例，其理论算力值为 90TFOPS，但最差真实值仅 1/9，即 10TFOPS 算力，因为其相应内存带宽仅 34GB/s。此外，在传统架构下，数据从内存到计算单元的传输功耗是计算本身能耗的约200倍，而用于计算的能耗和时间占比很低，数据在内存与处理器之间的频繁迁移带来严重的功耗问题。HBM 打破内存带宽及功耗瓶颈。HBM 不同于传统的内存与处理器基于 PCB 互联的形式，而是基于与处理器相同的“Interposer”中介层互联实现近存计算，显著减少数据传输时间，且节省了布线空间。而基于 TSV 工艺的 DRAM 堆叠技术则显著提升了带宽，并降低功耗和封装尺寸。根据 SAMSUNG，3D TSV 工艺较传统 POP 封装形式节省了 35%的封装尺寸，降低了 50%的功耗，并且对比带来了 8 倍的带宽提升。