新型存储研究报告：HBM、存算一体、PCM（47页）

经典冯诺依曼架构下，存储系统难以平衡容量与速度。我们知道，当前的计算设 备，无论是智能手机、PC，还是服务器集群，其计算架构都是传统的冯诺依曼架 构，即程序存储在存储器中，计算之前需要先从存储器中读取数据，再搬运到处 理器中进行计算，所以数据的存储和计算是分开的。因此，为了满足速度和容量 的需求，现代计算系统通常采取高速缓存（SRAM）、主存（DRAM）、外部存储（NAND  Flash）的三级存储结构，其中：1）SRAM：静态随机存取存储器，属于易失性存 储，响应时间通常在纳秒级，但是需要浪费大量晶体管来存储数据，所以大多被 整合到 SoC 核里做成缓存；2）DRAM：动态随机存取存储器，也属于易失性存储， 响应时间通常在 100 纳秒量级，但存储容量比 SRAM 更高；3）NAND Flash：闪存， 属于非易失性存储，能永久保存各类数据，存储容量也更大，但响应时间高达 100 微秒级。可以看到，存储器越靠近运算单元，其响应速度越快，但受功耗、散热、 芯片面积的制约，相应的存储容量也就越小。我们注意到，在过去二十年，处理器性能大概每年以 55%的速度提升，但存储性 能每年的提升速度只有 10%左右，这种存储性能的发展落后便是所熟知的“存储 墙”问题。

由于在冯诺依曼计算架构下，数据要经历从 NAND Flash 到 DRAM 再到 SRAM 三级存储间的传输，因此“存储墙”问题也体现在两方面： 1）一是在 DRAM 与处理器的缓存 SRAM 之间： 在冯诺依曼架构下，计算单元和存储单元是独立分开的，因此两者之间的数据搬 运会消耗大量的时间和能量，并且由于存储器的工艺路线不同于处理器，其性能 发展已远远落后于处理器，由此带来的数据处理速度和能效比等问题愈发严重。 在此背景下，存算一体技术（Computing in Memory，CIM）应运而生，该技术是 在存储器中嵌入了计算能力，直接利用存储器进行数据处理，从而把数据存储与 计算融合在芯片的同一片区，从本质上消除了不必要的数据搬运，因此可以大幅 提升计算效率并降低功耗，适用于深度学习等大规模并行计算的应用场景，是在 冯诺依曼架构之外的一种全新芯片计算架构。 2）二是在 NAND Flash 与 DRAM 之间： a）针对 DRAM 的提速，目前主要是采取 HBM（High Bandwidth Memory，高带宽内 存）技术，通过将多颗 DRAM 颗粒进行堆叠以提供更高的传输速度和带宽，因此 HBM 技术严格意义上并不属于新型存储技术，更多是对原有内存技术的一次升级； b）针对 NAND Flash 的提速，才是新型存储技术的诞生之地，新型存储器的特点 在于其同时具备 DRAM 的读写速率与寿命，以及 NAND Flash 的非易失特性，因此 新型存储器理论上可以将当前的内存和外存合并为持久内存，简化存储架构，从 而有望缩小或消除内存与外存之间的“存储墙”，目前的新型存储技术主要包括 PCM、MRAM、RRAM、FRAM 等诸多新兴技术。