ChatGPT技术分析报告：华为诺亚方舟实验室首席科学家刘群教授谈ChatGPT技术（82页）

行业报告下载 2023年07月12日 07:01 管理员

从部署GPT-3和Codex等早期模型中吸取的许多经验教训，为本版本的安全缓解措施提供了帮助，包括通过使用人类反馈强化学习（RLHF）来大幅减少有害和失真信息的输出。我们知道，如上所述，许多局限性仍然存在，我们计划定期更新模型，以改进这些领域。但我们也希望，通过为ChatGPT提供一个可访问的界面，我们将获得宝贵用户反馈，以了解更多我们还没有意识到的问题。鼓励用户通过用户界面提供关于有问题的模型输出的反馈，以及来自“外部内容过滤器”的误报/错报，该过滤器也是界面的一部分。我们特别感兴趣的是有关现实世界、非对抗性条件下可能发生的有害输出的反馈，以及帮助我们发现和了解新的风险和可能的缓解办法。您可以选择参加ChatGPT反馈竞赛，有机会赢得高达500美元的API积分。可以通过ChatGPT界面中链接的反馈表提交。我们很高兴能将从此版本中获得的经验教训带到更强大的系统的部署中，就像我们以前做的一样。