满足飞速发展的深度神经网络对芯片算力的需求,昇腾AI处理器本质上是一个SoC(System on Chip)。以昇腾310 AI 处理器为例,主要可以...
2025-03-29 7 电子行业报告
经典冯诺依曼架构下,存储系统难以平衡容量与速度。我们知道,当前的计算设 备,无论是智能手机、PC,还是服务器集群,其计算架构都是传统的冯诺依曼架 构,即程序存储在存储器中,计算之前需要先从存储器中读取数据,再搬运到处 理器中进行计算,所以数据的存储和计算是分开的。因此,为了满足速度和容量 的需求,现代计算系统通常采取高速缓存(SRAM)、主存(DRAM)、外部存储(NAND Flash)的三级存储结构,其中:1)SRAM:静态随机存取存储器,属于易失性存 储,响应时间通常在纳秒级,但是需要浪费大量晶体管来存储数据,所以大多被 整合到 SoC 核里做成缓存;2)DRAM:动态随机存取存储器,也属于易失性存储, 响应时间通常在 100 纳秒量级,但存储容量比 SRAM 更高;3)NAND Flash:闪存, 属于非易失性存储,能永久保存各类数据,存储容量也更大,但响应时间高达 100 微秒级。可以看到,存储器越靠近运算单元,其响应速度越快,但受功耗、散热、 芯片面积的制约,相应的存储容量也就越小。我们注意到,在过去二十年,处理器性能大概每年以 55%的速度提升,但存储性 能每年的提升速度只有 10%左右,这种存储性能的发展落后便是所熟知的“存储 墙”问题。
由于在冯诺依曼计算架构下,数据要经历从 NAND Flash 到 DRAM 再到 SRAM 三级存储间的传输,因此“存储墙”问题也体现在两方面: 1)一是在 DRAM 与处理器的缓存 SRAM 之间: 在冯诺依曼架构下,计算单元和存储单元是独立分开的,因此两者之间的数据搬 运会消耗大量的时间和能量,并且由于存储器的工艺路线不同于处理器,其性能 发展已远远落后于处理器,由此带来的数据处理速度和能效比等问题愈发严重。 在此背景下,存算一体技术(Computing in Memory,CIM)应运而生,该技术是 在存储器中嵌入了计算能力,直接利用存储器进行数据处理,从而把数据存储与 计算融合在芯片的同一片区,从本质上消除了不必要的数据搬运,因此可以大幅 提升计算效率并降低功耗,适用于深度学习等大规模并行计算的应用场景,是在 冯诺依曼架构之外的一种全新芯片计算架构。 2)二是在 NAND Flash 与 DRAM 之间: a)针对 DRAM 的提速,目前主要是采取 HBM(High Bandwidth Memory,高带宽内 存)技术,通过将多颗 DRAM 颗粒进行堆叠以提供更高的传输速度和带宽,因此 HBM 技术严格意义上并不属于新型存储技术,更多是对原有内存技术的一次升级; b)针对 NAND Flash 的提速,才是新型存储技术的诞生之地,新型存储器的特点 在于其同时具备 DRAM 的读写速率与寿命,以及 NAND Flash 的非易失特性,因此 新型存储器理论上可以将当前的内存和外存合并为持久内存,简化存储架构,从 而有望缩小或消除内存与外存之间的“存储墙”,目前的新型存储技术主要包括 PCM、MRAM、RRAM、FRAM 等诸多新兴技术。
标签: 电子行业报告
相关文章
满足飞速发展的深度神经网络对芯片算力的需求,昇腾AI处理器本质上是一个SoC(System on Chip)。以昇腾310 AI 处理器为例,主要可以...
2025-03-29 7 电子行业报告
GPMI是音视频产业的创新成果和核心技术突破,它集视频传输、数据交互、网络连接和供电等功能于一体,实现了一个接口即可支持“超高清视频+数据+控制+供电...
2025-03-27 23 电子行业报告
在人工智能的浪潮中,端侧 大型语言模型(On-Device LLMs)迅猛发展且具备广 泛的应用前景。自2023年 起,随着参数量低于10B的 模型系...
2025-03-27 26 电子行业报告
AI 行业发展至今,已从大模型训练阶段向推理阶段迈进,从 2024 年初 OpenAI 推出的 Sora 视频大模型,到随后的 O1 草莓大模型,乃至...
2025-03-25 30 电子行业报告
领航全球芯纪元,四十年铸就晶圆代工龙头。台积电是全球首家的集成电路 晶圆代工厂,也是目前最大的晶圆代工公司,其主要业务包括晶圆制造、封装、 测试和技术...
2025-03-09 78 电子行业报告
麦克风诞生至今已近150年,行业成熟度高。近年来,互联网内容创作领域对麦克风 的需求井喷,为麦克风市场带来新机遇,互联网麦克风有望引领行业未来发展方向...
2025-02-28 28 电子行业报告
最新留言