大型语言模型是生成或嵌入式文本的基础模型 (一种大型神经网络)。它们生成的文本可以通过为其 提供起点或“提示”来进行调节,从而使其能够用自然 语言或代...
2025-01-17 59 人工智能AI行业报告
在 ChatGPT Equivalent 假设下,单词检索服务收费约为 0.0055 美元。假设在平均 50 个 词的信息输入条件下,为获得更高质量的效果,每次检索将返回 5 个结果响应(并从中选择最 佳响应),且每个响应包含 400 词的内容,在该假设下,每次检索服务 OpenAI 收费为 0.0055 美元。在 2-Stage Search Summarizer 假设下,单词检索服务收费约为 0.0375 美元。在该情况 下,我们假定模型会检索传统搜索引擎中的相关内容,并基于每条搜索内容生成结果响应,并 将模型认为最好的答案输出给用户。我们假定在 50 词的信息输入条件下,每次基于传统搜索 引擎生成 10 个响应,每个响应中有平均 1000 词,并最终生成 400 词的搜索结果,则单次检索 服务费用为 0.0375 美元。
考虑缓存命中率和毛利率,经测算 ChatGPT equivalent 和 2-Stage Search Summarizer 两种情况下检索服务成本分别为 0.001 美元/次和 0.0066 美元/次。考虑搜索效 果的准确度,参考谷歌搜索引擎的缓存命中率在 30%~60%,我们取保守估计,ChatGPT 嵌 入搜索引擎服务的初期缓存命中率较低,取 30%作为估计值;考虑 OpenAI 业务毛利率, 我们参考 SaaS 类公司的毛利率,取 75%作为参考,经测算,ChatGPT equivalent 假设下单 次检索服务,模型提供商的成本为 0.001 美元,而 2-Stage Search Summarizer 情况下单次成 本为 0.0066 美元。 测算成本与 OpenAI CEO 透露数字接近,ChatGPT 商用模式采用 2-Stage Search Summarizer 可能性更大。OpenAI 首席执行官 Sam Altman 曾在社交平台上透露 ChatGPT 单次使用的成本为几美分(single-digits cents),与测算结果接近。考虑 ChatGPT 落地应用 在实时性、准确性等方面的要求,我们认为未来基于 2-Stage Search Summarizer 模式进行 部署的可能性更大。
标签: 人工智能AI行业报告
相关文章
大型语言模型是生成或嵌入式文本的基础模型 (一种大型神经网络)。它们生成的文本可以通过为其 提供起点或“提示”来进行调节,从而使其能够用自然 语言或代...
2025-01-17 59 人工智能AI行业报告
大模型快速发展,网信办数据显示,截至2024年7月30日,全国范围内通过登记备案的行业大模型有136款,占比达69%。行业大 模型深度赋能教育、金融、...
2025-01-08 76 人工智能AI行业报告
生成式AI也在加速赋能广告制作环节。今年业绩和股价爆发的AppLovin和汇量科技,主要关注的是决策式 AI在程序化广告平台的技术突破,提升广告投放精...
2025-01-06 105 人工智能AI行业报告
纵观历史50年,五次半导体市场规模迅猛成长均伴随爆款电子产品的普及。自1976年起,全球半导体市场历经了5次迅猛成长,分别由台式电脑(1983~198...
2025-01-05 89 人工智能AI行业报告
先进封装:受AI芯片大面积需求带动,2.5D先进封装于2023至2024年供不应 求情况明显,据TrendForce预估,2025年晶圆代工厂配套提供...
2025-01-05 97 人工智能AI行业报告
针对外贸 B2B 垂类场景的AI助手AI麦可:截至2024/6/30,购买AI麦可的会员共6095 位(不含试用体验包客户),较2024年一季度末增加...
2025-01-04 67 人工智能AI行业报告
最新留言