生成式大模型安全与隐私白皮书（60页）

行业报告下载 2023年06月30日 08:22 管理员

安全性和可靠性。GPT4 改进了对抗生成有毒或不真实内容的策略，以减少误导性信息和恶意用途的风险，提高其安全性和可靠性。特别地，GPT4 在事实性、可引导性和拒绝超范围解答（非合规）问题方面取得了有史以来最好的结果（尽管它还不够完美）。与 GPT3.5 相比，在生成的内容符合事实测试方面，GPT4 的得分比 GPT3.5 高 40%，对敏感请求（如医疗建议和自我伤害）的响应符合政策的频率提高 29%，对不允许内容的请求响应倾向降低 82%。总体来说，GPT4 比 GPT3.5 更可靠，更有创造力，能够处理更细微的指令。ChatGPT 是基于 GPT3.5 的 AI 聊天机器人。但在对话方面，GPT4 已表现出更好的连贯性和语境理解能力：不仅可以生成流畅、准确和有逻辑的文本，还可以理解和回答各种类型的问题，甚至还可以与用户进行创造性和技术性的写作任务。其中，比较突出的应用能力体现如下。新增的图片辨识和分析能力。与 ChatGPT 相比，GPT4 除了可以支持文字输入以外，还新增了图片辨识和分析功能，即能辨识图片（输出对图片的内容描述）、分析图表（类似 EXCEL 中的图表分析）、发现图片中的不常之处（对图片中异常现象进行辨识）、阅读文件并总结概要（如对 PDF 文件内容进行归纳总结）等。

甚至只需要在纸上画一个网站的草稿图，拍一张照片上传给 GPT4，模型便可生成网站代码。更高水平的创造力和协作性。与 ChatGPT 只能在一定范围内进行有限的创造和协作不同，GPT4 可以与用户进行创造性和技术性的写作任务，例如创作歌曲、编写剧本或者学习用户的风格和偏好，还可以生成、编辑和迭代各种类型和风格的文本，并且能够根据用户的反馈和建议来改进其输出。更广泛的应用前景。GPT4 凭借接近人类水平的语言理解和生成能力以及其他方面的优势，可在各种领域和场合中发挥重要作用。例如，GPT4 可以作为一个智能助理、教育工具、娱乐伙伴和研究助手，为 Offffice 办公软件、搜索引擎、虚拟导师应用等提供使能。据公开资料报道，微软已将 GPT4 接入 Offffice 套件从而推出全新的 AI 功能 Copilot，也已将 GPT4 接入 Bing 以提供定制化搜索服务；摩根士丹利正在应用 GPT4 进行财富管理部市场信息的分类和检索；Doulingo 将使用 GPT4 进行角色扮演以增进语言的学习；BeMyEyes 正在运用 GPT4 将视觉型图片转成文字帮助盲人理解；可汗学院也已使用 GPT4 作为虚拟导师 Khanmigo 等等。

生成式大模型安全与隐私白皮书（60页）