AI 发展带动训练集群规模扩大,推理端 token 消耗算力持续增长,带动算力和网络需求。我们认为,CPO 可以有效帮 助大规模集群降低功耗、提升互联...
2026-05-08 22 电子行业报告
经典冯诺依曼架构下,存储系统难以平衡容量与速度。我们知道,当前的计算设 备,无论是智能手机、PC,还是服务器集群,其计算架构都是传统的冯诺依曼架 构,即程序存储在存储器中,计算之前需要先从存储器中读取数据,再搬运到处 理器中进行计算,所以数据的存储和计算是分开的。因此,为了满足速度和容量 的需求,现代计算系统通常采取高速缓存(SRAM)、主存(DRAM)、外部存储(NAND Flash)的三级存储结构,其中:1)SRAM:静态随机存取存储器,属于易失性存 储,响应时间通常在纳秒级,但是需要浪费大量晶体管来存储数据,所以大多被 整合到 SoC 核里做成缓存;2)DRAM:动态随机存取存储器,也属于易失性存储, 响应时间通常在 100 纳秒量级,但存储容量比 SRAM 更高;3)NAND Flash:闪存, 属于非易失性存储,能永久保存各类数据,存储容量也更大,但响应时间高达 100 微秒级。可以看到,存储器越靠近运算单元,其响应速度越快,但受功耗、散热、 芯片面积的制约,相应的存储容量也就越小。我们注意到,在过去二十年,处理器性能大概每年以 55%的速度提升,但存储性 能每年的提升速度只有 10%左右,这种存储性能的发展落后便是所熟知的“存储 墙”问题。
由于在冯诺依曼计算架构下,数据要经历从 NAND Flash 到 DRAM 再到 SRAM 三级存储间的传输,因此“存储墙”问题也体现在两方面: 1)一是在 DRAM 与处理器的缓存 SRAM 之间: 在冯诺依曼架构下,计算单元和存储单元是独立分开的,因此两者之间的数据搬 运会消耗大量的时间和能量,并且由于存储器的工艺路线不同于处理器,其性能 发展已远远落后于处理器,由此带来的数据处理速度和能效比等问题愈发严重。 在此背景下,存算一体技术(Computing in Memory,CIM)应运而生,该技术是 在存储器中嵌入了计算能力,直接利用存储器进行数据处理,从而把数据存储与 计算融合在芯片的同一片区,从本质上消除了不必要的数据搬运,因此可以大幅 提升计算效率并降低功耗,适用于深度学习等大规模并行计算的应用场景,是在 冯诺依曼架构之外的一种全新芯片计算架构。 2)二是在 NAND Flash 与 DRAM 之间: a)针对 DRAM 的提速,目前主要是采取 HBM(High Bandwidth Memory,高带宽内 存)技术,通过将多颗 DRAM 颗粒进行堆叠以提供更高的传输速度和带宽,因此 HBM 技术严格意义上并不属于新型存储技术,更多是对原有内存技术的一次升级; b)针对 NAND Flash 的提速,才是新型存储技术的诞生之地,新型存储器的特点 在于其同时具备 DRAM 的读写速率与寿命,以及 NAND Flash 的非易失特性,因此 新型存储器理论上可以将当前的内存和外存合并为持久内存,简化存储架构,从 而有望缩小或消除内存与外存之间的“存储墙”,目前的新型存储技术主要包括 PCM、MRAM、RRAM、FRAM 等诸多新兴技术。

标签: 电子行业报告
相关文章
AI 发展带动训练集群规模扩大,推理端 token 消耗算力持续增长,带动算力和网络需求。我们认为,CPO 可以有效帮 助大规模集群降低功耗、提升互联...
2026-05-08 22 电子行业报告
ASIC 设计服务行业技术壁垒与规模效应构筑护城河,服务商价值在先 进制程下加速重估。1)技术端:先进制程复杂度确立服务商核心枢纽 地位。随着摩尔定律...
2026-05-06 21 电子行业报告
MLCC下游应用领域广泛,国产替代空间巨大。MLCC具有温度范围宽、电 容范围宽、介质损耗小、体积小、价格低等特点,广泛应用于移动终端、 高端装备、汽...
2026-05-05 22 电子行业报告
日系黑电:依靠垂直生产优势+彩色 CRT 技术革新登顶全球,平板时代战略失误逐步边缘化。1950s-1965 年起步期, 在通产省政策扶持下,企业从美...
2026-05-05 25 电子行业报告
晶圆代工赛道兼具高资本与生态壁垒,台积电的成功印证了生态-技术-产能-订单 的飞轮法则,本土 Fab 已经在生态、技术及产能有所铺垫,当前赢来多重催化...
2026-05-03 46 电子行业报告
AIoT 视觉消费市场,作为物联网产业中靠近 C 端、场景化特点显著的核心赛道,在政策调整、 供应链变革、技术迭代与消费需求升级的多重作用下,2025...
2026-04-28 34 电子行业报告
最新留言