全球人工智能展望报告（77页）

行业报告下载 2025年11月13日 08:12 管理员

大模型基于一套系统化技术路径来提升其推理能力。以思维链（CoT）为基础实现分步推理，通过自我反馈和情境记忆形成动态调整机制，并借助自一致性校验确保逻辑一致性。在训练层面，采用监督微调（SFT）与基于人类反馈强化学习（RLHF）相结合的方式，借助优势估计和终端奖励完成策略更新。同时，引入对抗性奖励信号、KL 惩罚以及价值函数训练以实现策略优化的目标。大模型通过多种推理路径适应不同任务需求。基础范式包括直接输出（Direct）和思维链（CoT）推理。自一致性（Self-consistency）与多重思维链（Multiple CoT）通过生成多条推理路径并采用投票机制，为不确定性任务进行方案择优。面对需要多路径探索的复杂任务，思维树（ToT）引入树状结构，支持分支评估与回溯机制，实现不同路径之间的探索。最新提出的思维图（GoT）则突破树状结构的限制，利用图结构实现路径间的动态聚合与信息重组，为更复杂的非线性推理问题提供更优的解决思路。MoE（Mixture of Experts）架构中，输入数据通过前馈神经网络（Feed-Forward Neural Network, FFNN）与激活函数处理，再由门控机制为每个专家分配激活概率。在稠密MoE架构中，所有专家均被激活参与计算，最终输出为各专家结果的加权和；在稀疏MoE架构中，仅激活其中若干专家（如图中激活FFNN1），以提高推理效率并降低计算资源开销。该机制实现在保持模型性能的同时，优化推理效率，适用于大规模参数部署。近年来，大模型已引入MoE架构以提升参数利用率和训练扩展性。

全球人工智能展望报告（77页）