AI PC、AI手机报告：AIGC向端侧下沉（48页）

行业报告下载 2024年02月19日 06:41 管理员

NPU作为人工智能相关任务专用引擎成为PC的核心零部件之一为AIGC在端侧落地打开可能性，是AI时代PC产品的重要革新。NPU相较于GPU拥有更优的能耗比，这意味着随着NPU在PC上普及，其与GPU的分工或将更加明确。此先作为图像处理专用芯片的GPU亦常用于深度学习相关领域，对矩阵加乘的并行计算能力使GPU 在NPU之前一直是AI模型训练和推理倚赖的重要硬件单元。随着Transformer成为LLM的主流架构，并将CV和NLP这两个研究分支统一起来，神经网络成为构建AI模型的基本单元，NPU作为张量处理器能够在更短的时间内完成大规模神经网络计算任务，因而其相较于GPU是更适合人工智能相关任务的加速引擎。NPU将作为端侧重要的基础设施之一为PC端搭载大模型提供前提条件，其普及标志着AI PC时代的来临。 PC出货量高企往往与ows操作系统的重要版本更新相伴相生，考虑到ows Copilot和内置于PC的本地大模型在功能上互为补充，微软预计于2024年发布的 ows 12操作系统有望成为推动换机潮的另一个重要因素。内置于PC的大模型主要是从本地如硬盘中提取用户信息进行推理，而ows Copilot更多的还是从云端如OneDrive中获得数据，在某些对数据私密性要求较高的场景下前者相对适用，但内置于PC的大模型和ows Copilot并不完全是竞对关系，而是相互补充，从而为终端用户提供更好的AI PC使用体验。