大型语言模型是生成或嵌入式文本的基础模型 (一种大型神经网络)。它们生成的文本可以通过为其 提供起点或“提示”来进行调节,从而使其能够用自然 语言或代...
2025-01-17 58 人工智能AI行业报告
从单次Query算力成本的影响因素来看,推理算力 与一次生成内容的tokens、模型参数量和迭代次数 成正比。根据扩散Transformer论文一作作者杨赛 宁推算,Sora参数量约30亿。视频可以看成是一帧 帧图片组成,图片模型(如Stable Diffusion)的迭 代次数约为25-50次,取中枢估计视频模型迭代迭 代35次。根据昆仑万维 AI Infra 负责人,在视频领 域,一分钟视频约为1Mtokens。考虑到Sora的视 频长度约为10秒,即对应16.7万tokens。 假设GPT4和Sora的推理参数量为3*1750亿和30 亿,在Sora一次推理迭代35次的情况下,其推理成 本是GPT-4模型的33倍。根据财务数据推算,预期微软AI云计算规模23年Q4为8.39亿美元,该部分规模主要是推理需求,不包 括训练需求,由于目前主要是OpenAI在进行推理,因而预期其中大部分主要是OpenAI的推理算力。 在ChatGPT精度经过两次下降后(每次降低7%),目前GPT-4的单用户算力成本为每日活每年100.2 美元。假设OpenAI日活月活比例30%背景下,由于付费是月付费,因而GPT4会员的市场定价为20美 元/月,除以0.3,乘以12个月,约为800美元>100.2美元。 如果Sora的单日活算力成本为33倍的GPT-4,即为每日活年算力成本3308美元。如果按市场价格算, Sora的月付费至少大于82美元/月,才能覆盖Sora会员单日活的成本3308美元,对于用户来说费用偏 高。因此只有通过成本重置降低成本进而降低付费价格才能显著走通商业模式。
标签: 人工智能AI行业报告
相关文章
大型语言模型是生成或嵌入式文本的基础模型 (一种大型神经网络)。它们生成的文本可以通过为其 提供起点或“提示”来进行调节,从而使其能够用自然 语言或代...
2025-01-17 58 人工智能AI行业报告
大模型快速发展,网信办数据显示,截至2024年7月30日,全国范围内通过登记备案的行业大模型有136款,占比达69%。行业大 模型深度赋能教育、金融、...
2025-01-08 76 人工智能AI行业报告
生成式AI也在加速赋能广告制作环节。今年业绩和股价爆发的AppLovin和汇量科技,主要关注的是决策式 AI在程序化广告平台的技术突破,提升广告投放精...
2025-01-06 105 人工智能AI行业报告
纵观历史50年,五次半导体市场规模迅猛成长均伴随爆款电子产品的普及。自1976年起,全球半导体市场历经了5次迅猛成长,分别由台式电脑(1983~198...
2025-01-05 89 人工智能AI行业报告
先进封装:受AI芯片大面积需求带动,2.5D先进封装于2023至2024年供不应 求情况明显,据TrendForce预估,2025年晶圆代工厂配套提供...
2025-01-05 97 人工智能AI行业报告
针对外贸 B2B 垂类场景的AI助手AI麦可:截至2024/6/30,购买AI麦可的会员共6095 位(不含试用体验包客户),较2024年一季度末增加...
2025-01-04 67 人工智能AI行业报告
最新留言