AI 发展带动训练集群规模扩大,推理端 token 消耗算力持续增长,带动算力和网络需求。我们认为,CPO 可以有效帮 助大规模集群降低功耗、提升互联...
2026-05-08 8 电子行业报告
AI 算力芯片主要包括 GPU、FPGA,以及以 VPU、TPU 为代表的 ASIC 芯片。 其中以 GPU 用量最大,据 IDC 数据,预计到 2025 年 GPU 仍将占据 AI 芯片 8 成 市场份额。然而,相较传统图形 GPU,通用型算力 GPU 在芯片架构上缩减了图形 图像显示、渲染等功能实现,具有更优的计算能效比,因而被广泛应用于人工智能 模型训练、推理领域。根据在网络中的位置,AI 芯片可以分为云端 AI 芯片 、边缘和终端 AI 芯片; 根据其在实践中的目标,可分为训练( training )芯片和推理( inference )芯 片。云端主要部署高算力的 AI 训练芯片和推理芯片,承担训练和推理任务,具体 有智能数据分析、模型训练任务和部分对传输带宽要求比高的推理任务;边缘和终 端主要部署推理芯片,承担推理任务,需要独立完成数据收集、环境感知、人机交 互及部分推理决策控制任务。由于英伟达 GPU 产品线丰富、产品性能顶尖、开发生态成熟,目前全球 AI 算 力芯片市场仍由英伟达垄断。根据中国信通院的数据,2021 年 Q4 英伟达占据了 全球 95.7%的 GPU 算力芯片市场份额,因此,英伟达数据中心业务营收增速可以 较好地反应全球 AI 芯片市场增速。
2023 财年,英伟达数据中心营收达到 150 亿 美元,同比增长 41%,FY2017-FY2023 复合增速达 63%,表明全球 AI 芯片市场 规模保持高速增长。英伟达的 GPGPU 是全球应用最为广泛的 AI 芯片,决定其性能的硬件参数主 要包括:微架构、制程、CUDA 核数、Tensor 核数、频率、显存容量、显存带宽 等。其中,微架构即 GPU 的硬件电路设计构造的方式,不同的微架构决定了 GPU 的不同性能,作为英伟达 GPU 的典型代表,V100、A100、H100 GPU 分别采用 Volta、Ampere、Hopper 架构;CUDA 核是 GPU 内部主要的计算单元;Tensor 核是进行张量核加速、卷积和递归神经网络加速的计算单元;显存容量和带宽是决 定 GPU 与存储器数据交互速度的重要指标。除 GPU 硬件之外,与之配套的软件开发体系亦是生态的重要组成部分。GPU 的生态包括底层硬件、指令集架构、编译器、API、基础库、顶层算法框架和模型 等,英伟达于 2006 年发布的 CUDA 平台是当今全球应用最为广泛的 AI 开发生态 系统。通用 GPU 与 CUDA 组成的软硬件底座构成了英伟达引领 AI 计算的根基, 当前全球主流深度学习框架均使用 CUDA 平台。

标签: 电子行业报告
相关文章
AI 发展带动训练集群规模扩大,推理端 token 消耗算力持续增长,带动算力和网络需求。我们认为,CPO 可以有效帮 助大规模集群降低功耗、提升互联...
2026-05-08 8 电子行业报告
ASIC 设计服务行业技术壁垒与规模效应构筑护城河,服务商价值在先 进制程下加速重估。1)技术端:先进制程复杂度确立服务商核心枢纽 地位。随着摩尔定律...
2026-05-06 19 电子行业报告
MLCC下游应用领域广泛,国产替代空间巨大。MLCC具有温度范围宽、电 容范围宽、介质损耗小、体积小、价格低等特点,广泛应用于移动终端、 高端装备、汽...
2026-05-05 21 电子行业报告
日系黑电:依靠垂直生产优势+彩色 CRT 技术革新登顶全球,平板时代战略失误逐步边缘化。1950s-1965 年起步期, 在通产省政策扶持下,企业从美...
2026-05-05 23 电子行业报告
晶圆代工赛道兼具高资本与生态壁垒,台积电的成功印证了生态-技术-产能-订单 的飞轮法则,本土 Fab 已经在生态、技术及产能有所铺垫,当前赢来多重催化...
2026-05-03 45 电子行业报告
AIoT 视觉消费市场,作为物联网产业中靠近 C 端、场景化特点显著的核心赛道,在政策调整、 供应链变革、技术迭代与消费需求升级的多重作用下,2025...
2026-04-28 34 电子行业报告
最新留言