边缘AI行业报告：边缘AI硬件（38页）

行业报告下载 2024年05月28日 07:45 管理员

AI PC 芯片密集发布，相对传统 PC 芯片在 GPU 和内存参数上有明显提升。以英特尔相近的两款 AI PC 芯片为比较，AI PC 芯片 Intel Core Ultra 9 185H 配置了相关专用于 AI 性能提升的硬件 Intel AI engine，因此在 32 位浮点运算以及 AI 算力上有了巨大的提升，在数据处理速度相关的频率以及内存最大带宽均优于 Intel Core i9-13900。AMD 同一代产品中，具备 Ryzen AI 引擎的 7940HS 与普通 CPU 有明显差异。AI 处理器在 GPU 上更加领先，内存带宽优于普通 CPU，GPU 的频率有明显升级，而在最大内存带宽上也有明显提升。主流厂商 AI PC 芯片均增加了 NPU 模块，相对于传统 PC 芯片极大提升了算力，而英特尔凭借当前的开发生态和硬件性能优势，占据主要市场份额。各家在新款 AI PC 芯片上，均增加了 AI 硬件，其自身的算力叠加传统 PC 芯片中 CPU 及 GPU 的算力，使整体算力有了较大提升。而在竞争格局上，市场上主要的竞争集中在英特尔、AMD、高通等厂商，横向对比各家优劣，AMD 在内存方面对其余两家有明显优势，高通 GPU 频率相对更高，且其独有的高通引擎使得在 AI 算力上数值更高。而英特尔则更加均衡，硬件方面配置更多核心，处理线程更多，同时软件开发生态更为丰富，下游终端厂商接受度也更高，综合实力英特尔暂时领先。另外从当前下游 PC 新品发布来看，搭载英特尔芯片的产品也更加丰富。高通的最新 PC 处理器骁龙 X Elite 在算力性能上显著提升。2023 年 10 月 26 日高通发布了其用于 AI PC 方向的最新处理器骁龙 X Elite, 使用 12 核高通 Oryon CPU 与 Adreno GPU， GPU 32 位浮点运算能力达到了 4.6TFlOPS, 骁龙 X Elite 能够在设备上运行超过 13B 参数的生成式 AI LLM 模型。此外还搭载了高通 Hexagon NPU，其基础算力达到 45TOPS,搭配高通 AI 引擎算力最高可达 75TOPS, 使用 LPDDR5x 内存，136 GB/s 带宽，以及适配的终端 AI，输出速度 30Tokens/s。同时，芯片有着低能耗的优点，一次充电可维持几天工作时间。苹果 M 系列处理器一直以其独有的统一内存架构占据市场，采用统一的内存架构可提供高带宽、低延迟和出色的功耗表现。M3 系列芯片，配置 128G 显存，可以运行数十亿参数的更大的 Transformer 模型。在算力的性能上，M3 MAX 的 GPU 提供 14.2TFlOPS 的 32 位浮点算力，搭载 Apple Neural Engine，使 NPU 算力达到 35TOPS，相较上一代有较大幅度提升。 M3 MAX 芯片中的晶体管数量达 920 亿个，搭配 16 核 CPU 核心，40 核 GPU 核心，相较于 M1 Max，CPU 性能提速 80%，GPU 性能提速 50%。