量子通信是利用量子力学原理对量子态进行操控的一种通信形式,可以有效解决信息 安全问题。量子通信是迄今唯一被严格证明无条件安全的通信方式,量子通信所依赖...
2025-01-07 54 云计算行业报告
大模型推动算力需求增长。自2022年OpenAi发布的ChatGPT将大型语言生成模型和AI推向新高度以来,全球各大科技巨头纷纷拥 抱AIGC(AI-Generated Content,人工智能生成内容)。大模型通常包含数亿级的参数,需要消耗大量算力。据OpenAI团队发表 于2020年的论文《Language Models are Few-Shot Learners》,训练一次1746亿参数的GPT-3模型需要的算力约为3640 PFlop/s-day。AI大模型可以用于训练和推理,主要用在云端(数据中心侧)和边缘侧(终端侧)。 AI服务器作为算力的发动机,算力需求的增长将迎来AI服务器需求的快速增长。据IDC统计,2023年全球AI服务器市场规模预计为 211亿美元,2025年将达到达317.9亿美元,2023-2025年CAGR为22.7%。采购量方面,根据TrendForce的统计,截至2022年, 北美四大云端服务提供商Microsoft、Google、Meta、AWS在全球AI服务器采购中的总份额达到约66%, Microsoft和Google分 别占有全球19%以及17%的份额。服务器整机出货量放缓,AI服务器出货量稳步上升。2022年全球服务器出货量增长4.8%,达到约1360万台。然而,预计到2023年, 全年增长将放缓至1.5%。服务器整机出货量放缓的主要原因是大型云服务提供商的整体服务器购买量下降,集体转向高价AI服务器。 根据TrendForce数据,2023年AI服务器出货量逾达120万台,占据服务器总出货量的近9%,年增长达38.4%。预计2026年,AI服 务器出货量为237万台,占比达15%,复合年增长率预计保持25%。 AI服务器整机逻辑结构可确保各组件高效运行。如浪潮的NF5688M6型号AI服务器,其逻辑结构采用NVIDIA NVLink互联架构,可 基于硬件拓扑,实现 GPU:IB:NVMe=1:1:1的配比。此外,GPU之间交互效率高,可直接进行数据通信速率为400GB/s的P2P 交互。最后通过UPI 总线互联设计,该型号AI服务器可为深度学习业务场景提供高效计算性能。
标签: 云计算行业报告
相关文章
量子通信是利用量子力学原理对量子态进行操控的一种通信形式,可以有效解决信息 安全问题。量子通信是迄今唯一被严格证明无条件安全的通信方式,量子通信所依赖...
2025-01-07 54 云计算行业报告
操作系统是连接硬件和数据库、中间件、应用软件的纽带,是承载各种信息设备和软件应用运行基础平台的重要基础性软件。操作 系统位于底层硬件与应用软件之间,对...
2025-01-01 77 云计算行业报告
协同办公平台的核心功能包括:1)面向全体员工的基础办公模块、2)面向特定业务或职能部门的业务应用模块。通常而言,协同 办公平台厂商会聚焦自身优势能力提...
2024-12-24 58 云计算行业报告
内存墙问题阻碍人工智能发展。根据《AI and Memory Wall》,过去 20 年中服务器硬件 FLOPS 峰 值每 2 年扩大至 3 倍,远超...
2024-12-19 75 云计算行业报告
2024年AIPC有望实现规模出货,预计将加速渗透PC市场。据Omdia,2024年有望成为 AIPC规模出货的元年,此后将迅速增长,至2028年出货...
2024-12-16 78 云计算行业报告
本次调查发现,大型企业(2000人以上企业)在数字化投入方面更为积极, 52%的受访企业预测2024年数字化投入较2023年有所增加。大型企业在数 字...
2024-12-03 83 云计算行业报告
最新留言