前沿人工智能安全实践报告：面向中国机构的研发实践案例与政策制定指南（77页）

行业报告下载 2024年04月05日 06:57 管理员

本报告聚焦的“前沿人工智能(Frontier AI)”，是指高能力的通用AI模型，能执行广泛的任务，并达到或超过当今最先进模型的能力，最常⻅的是基础模型。前沿人工智能提供了最多的机遇但也带来了新的风险。本报告提供了前沿人工智能机构潜在的最佳实践清单，以及面向中国机构的研发实践案例与政策制定指南。这些是经过广泛研究后收集的，考虑到这项技术的新兴性质，需要定期更新。安全过程并未按重要性顺序列出，而是按主题进行总结，以便读者能够理解、解释和比较前沿机构的安全政策，及其在国内的适用性。本报告参考了各个前沿人工智能机构公布的最佳实践、英国政府《前沿人工智能安全的新兴流程》、国内外相关政策法规等多份参考资料（详见附录A）。本报告是为中国领先的人工智能技术研发机构和政策研究机构编写的，以帮助他们更好地了解前沿人工智能安全的实践和政策。我们鼓励这些机构参考国际同行经验，结合国内实际情况，在实现负责任人工智能的过程中，提升从原则到实践、技术与治理相结合的能力。虽然可能有一些实践与多种类型的人工智能机构相关，但负责任扩展策略等小部分实践是专门为前沿人工智能，而不是为能力以及风险较低的人工智能设计的。我们欢迎前沿人工智能机构，根据其独特的模型特性、开发和应用环境以及潜在风险，自主制定符合自身情况的负责任人工智能实践。当前许多人工智能研发机构的运营风险较低，预计不会考虑采取如此一系列的实践措施。这符合我们对人工智能风险采取相称性治理和促进创新方法的理念。但前沿人工智能研发机构在促进前沿人工智能安全开发和部署方面发挥的重要作用，也将使包括非前沿机构在内的更广泛的人工智能生态系统受益。因此，随着最佳实践的不断出现，我们希望确保中小型机构也能参与人工智能安全的对话。