大型语言模型是生成或嵌入式文本的基础模型 (一种大型神经网络)。它们生成的文本可以通过为其 提供起点或“提示”来进行调节,从而使其能够用自然 语言或代...
2025-01-17 59 人工智能AI行业报告
现有的大模型的框架在本质上是一致的,尚未出现技术上的“降维打击”。 GPT-4 虽然整体性能最为领先,但从技术上看,GPT-4 仍然是对自然语言处理增强学习、深度 循环神经网络及其改进版本、大模型等已有技术的组合的创新,并且通过足够大量的数 据进行支持,并非在大模型技术上有革命性突破。虽然国内 AI 大模型版本相对要滞后 一些,但是并不存在不可弥补的鸿沟。 参数量和数据量是决定了模型效果。通常认为,参数量大于 1000 亿时,模型才有 可能形成“突现能力”,这种现象在 GPT3 后开始更加显著。过往的 NLP 模型是按照具 体任务和具体数据来训练的,所以数据质量越好,模型效果越好。而从 Transformer 开 始,除了数据质量外,数据数量的重要性也愈发重要。因此参数量和数据量决定了模型 最终的效果,最直观的效果指标就是准确度。此外,IDC 搭起了大模型评估框架 V1.0 以 充分评估大模型技术能力、功能丰富度与底层深度学习平台开发能力,以及对各行业赋 能的实际效果。当前大模型的商业模式是“通用大模型+产业模型”。底层 AI 大模型的研发具有极 高的研发门槛,面临高昂的成本投入,不利于人工智能技术在千行百业的推广。而具有 数据、算力、算法综合优势的企业可以将模型的复杂生产过程封装起来,通过低门槛、 高效率的生产平台,向千行百业提供大模型服务。
各个行业的企业只需要通过生产平台 提出在实际 AI 应用中的具体需求,生产大模型的少数企业就能够根据应用场景进一步 对大模型开发训练,帮助应用方实现大模型的精调,以达到各行业对于 AI 模型的直接 应用。不同类型的企业在发展大模型拥有的优势也不尽相同。1)一是以阿里巴巴、华为、 腾讯及百度为代表的基础云厂商,既具备做出通用 ChatGPT 的能力,也有着足够的数据 和算力。2)二是以科大讯飞为代表的 AI 算法领先企业,被视为计算机板块中最有可能 做出通用 ChatGPT 的公司。3)拥有天然的场景应用及配套数据优势的互联网平台。例 如,国内最大的在线问答社区——知乎,以问答类任务为主模式与 GPT 天然契合。4) 拥有高价值内容数据的企业也具备做好大模型的核心要素,可以大幅提升对人类意图的 理解,从而提升回答信息的准确性。 各大厂商大模型百花齐放,核心差异在于细节。以国内厂商为例:1)百度由于多 年在 AI 领域的深耕,其文心大模型涵盖基础大模型、任务大模型、行业大模型的三级 体系,打造大模型总量约 40 个。2)腾讯混元应用方向则主要是腾讯自身生态的降本增 效,其中广告类应用表现出色。3)阿里更重技术,通义大模型基于阿里云、达摩院打造 的硬件优势,可将大模型所需算力压缩到极致;另外其底层技术优势还有利于构建 AI 的统一底层。4)华为的优势则在于其训练出业界首个 2000 亿参数以中文为核心的预训 练生成语言模型,包括 NLP、CV、多模态、科学计算大模型,目前已实现医学、气象、 时尚等多个 AI 场景落地。5)中科院的紫东太初是全球首个视觉-文本-语音三模态预训 练模型,同时具备跨模态理解与跨模态生成能力。
标签: 人工智能AI行业报告
相关文章
大型语言模型是生成或嵌入式文本的基础模型 (一种大型神经网络)。它们生成的文本可以通过为其 提供起点或“提示”来进行调节,从而使其能够用自然 语言或代...
2025-01-17 59 人工智能AI行业报告
大模型快速发展,网信办数据显示,截至2024年7月30日,全国范围内通过登记备案的行业大模型有136款,占比达69%。行业大 模型深度赋能教育、金融、...
2025-01-08 76 人工智能AI行业报告
生成式AI也在加速赋能广告制作环节。今年业绩和股价爆发的AppLovin和汇量科技,主要关注的是决策式 AI在程序化广告平台的技术突破,提升广告投放精...
2025-01-06 105 人工智能AI行业报告
纵观历史50年,五次半导体市场规模迅猛成长均伴随爆款电子产品的普及。自1976年起,全球半导体市场历经了5次迅猛成长,分别由台式电脑(1983~198...
2025-01-05 89 人工智能AI行业报告
先进封装:受AI芯片大面积需求带动,2.5D先进封装于2023至2024年供不应 求情况明显,据TrendForce预估,2025年晶圆代工厂配套提供...
2025-01-05 97 人工智能AI行业报告
针对外贸 B2B 垂类场景的AI助手AI麦可:截至2024/6/30,购买AI麦可的会员共6095 位(不含试用体验包客户),较2024年一季度末增加...
2025-01-04 67 人工智能AI行业报告
最新留言