大模型应用场景及多能力融合持续催化商业化进度: Deepseek以低算力成本刷 新大模型应用进程,随着海内外大厂为模型训练、储备算力、云计算、大模型...
2025-08-07 45 云计算行业报告
2023-2030年全球AI市场规模CAGR有望超35%。全球AI市场投资浪潮已现,根据PrecedenceResearch市场预测,从2023年至2030 年,全球人工智能(AI)市场有望从11879亿元增长至114554亿元,实现超过35%的复合增长率。 AI驱动智算侧需求凸显。通算中心最初的用户诉求主要来自于一些特定的应用,诸如:电子邮件、社交媒体和员工工资发放等。后来随着 云计算的快速发展,越来越多的关键应用迁移到云端,数据中心建设的规模也越来越大,通算中心对时延、带宽、可用性以及安全性等有 了更高的要求。智算中心的用户诉求来自于智算训练业务,需建立高度集中化的GPU集群。为确保大模型训练的效率和成本最优,智算训练需要建立高度 集中化的GPU集群。基于GPU的分布式工作原理,如果需要在减少训练时间的同时降低训练的成本,必须在更小的物理空间内部署更多的 GPU服务器,从而突破分布式计算因带宽和传输距离产生的运算瓶颈,提高集群算效,故智算训练业务需要建立高度集中化的GPU集群。 智算中心机柜呈现高密度化趋势。智算中心GPU芯片算力在不断提升,目前H100/ H200/H800等芯片TDP设计功耗已达700W,GB200已 达到2700W功耗。通常AI服务器由8卡GPU或NPU模组构成,每台AI服务器的功耗在5kW~10kW,机柜的功率密度将达到40kW以上。新 一代的GB200架构中,NVL36机柜功率密度为72kW,NVL72液冷机柜功率密度则为120kW。单机柜功耗从通算中心(传统数据中心)的 4~6KW的逐渐增加至智算中心(AIDC)的20~40kW,未来逐步发展至40~120kW甚至还要更高。
标签: 云计算行业报告
相关文章
大模型应用场景及多能力融合持续催化商业化进度: Deepseek以低算力成本刷 新大模型应用进程,随着海内外大厂为模型训练、储备算力、云计算、大模型...
2025-08-07 45 云计算行业报告
轨道算力崛起突破地面瓶颈,重构天基智能新生态,市场空间巨大:太空算力正引领天基计算体系从”天感地算"向"天数天算"升级,...
2025-07-28 53 云计算行业报告
AIGC蓬勃发展,对底层智能算力产生强劲需求。行业前期,训练是算力需求的主力,大量大模型训练需要海量算力支撑。2024年末,DeepSeek重磅发 布...
2025-07-18 194 云计算行业报告
全球算力需求持续高景气,目前基础模型训练仍是推动生成式 AI 需求增长的主要动力,而应用层需求 正加速增长。1)训练侧:目前大模型仍在沿着 Scali...
2025-07-08 100 云计算行业报告
随着 AI 不断发展,其电力需求将大幅上升。一方面,AI 大模型以及 AI 大模型赋 能的搜索引擎每次请求的能耗远高于标准搜索引擎每次请求的能耗;根据...
2025-07-02 69 云计算行业报告
随着以ChatGpt、DeepSeek等为代表的大模型广泛应用,AI算力需求激增。根据中国信通院数据,2023年全球算力总规模达 1397EFlops...
2025-06-06 57 云计算行业报告
最新留言