满足飞速发展的深度神经网络对芯片算力的需求,昇腾AI处理器本质上是一个SoC(System on Chip)。以昇腾310 AI 处理器为例,主要可以...
2025-03-29 8 电子行业报告
AIGC以大模型、大数据为基础。大模型是指通过在大规模宽泛的数据上进行训练后能适应下游任务的模型,大模型出现后: 模型参数量级式提升: ChatGPT是OpenAI对其2020年发布的GPT-3模型微调后开发出的对话机器人, GPT-3模型参数量1750亿,2018年6月推 出的GPT-1、2019年2月推出的GPT2模型参数量仅1.17亿、15亿,2021年1月Google推出的SwitchTransformer模型参数量进一步提升到1.6万亿。 需求多元化加速算力多样化升级:算力按照需求匹配,可分为基础算力、智能算力及超算算力。未来,全球扩增的数据中80%以上都是非结构 化数据(文本、图片、语音、视频等)。AIGC中的生成式模型/多模态,主要为对智能算力的需求。
全球算力高速发展态势:2021年,全球计算设备算力总规模达到615EFlops,增速44%。2030年,有望增至56ZFlops,CAGR达到65%,其中智能 算力由232EFlops增至52.5ZFlops,CAGR超过80% ; 算力翻倍时间明显缩短:大模型出现后,带来了新的算力增长趋势,平均算力翻倍时间为9.9个月。算力提升的背后,芯片必须具备更高计算效率,在更短时间内完成更多运算,因而必然伴随芯片能耗的加大:ODCC《冷板式液冷服务器可靠性白 皮书》信息,2022年Intel第四代服务器处理器单CPU功耗已突破350瓦,英伟达单GPU芯片功耗突破700瓦,AI集群算力密度普遍达到50kW/柜。芯片工作温度会显著影响性能,功率密度的增加使芯片的热流密度显著升高使芯片温度升高。传统芯片中,用于冷却的体积占98%,只有2%用于 计算运行,但是依然很难解决现在存在的散热问题,随着芯片性能的持续快速提升,散热问题将愈加突出。
标签: 电子行业报告
相关文章
满足飞速发展的深度神经网络对芯片算力的需求,昇腾AI处理器本质上是一个SoC(System on Chip)。以昇腾310 AI 处理器为例,主要可以...
2025-03-29 8 电子行业报告
GPMI是音视频产业的创新成果和核心技术突破,它集视频传输、数据交互、网络连接和供电等功能于一体,实现了一个接口即可支持“超高清视频+数据+控制+供电...
2025-03-27 24 电子行业报告
在人工智能的浪潮中,端侧 大型语言模型(On-Device LLMs)迅猛发展且具备广 泛的应用前景。自2023年 起,随着参数量低于10B的 模型系...
2025-03-27 26 电子行业报告
AI 行业发展至今,已从大模型训练阶段向推理阶段迈进,从 2024 年初 OpenAI 推出的 Sora 视频大模型,到随后的 O1 草莓大模型,乃至...
2025-03-25 30 电子行业报告
领航全球芯纪元,四十年铸就晶圆代工龙头。台积电是全球首家的集成电路 晶圆代工厂,也是目前最大的晶圆代工公司,其主要业务包括晶圆制造、封装、 测试和技术...
2025-03-09 78 电子行业报告
麦克风诞生至今已近150年,行业成熟度高。近年来,互联网内容创作领域对麦克风 的需求井喷,为麦克风市场带来新机遇,互联网麦克风有望引领行业未来发展方向...
2025-02-28 28 电子行业报告
最新留言