AI安全报告：deepfakes深度伪造技术看AI安全（53页）

行业报告下载 2023年07月28日 08:54 管理员

Deepfakes定义可分为广义和狭义两个层次：广义：Deepfakes指使用机器学习（ML）技术创建的伪造品，即利用了以生成对抗网络技术（GAN）为主体的深度学习技术制造的看起来很真实但实际上属于虚假的图片或视频。狭义：Deepfakes是“Deep machine learning”和 “fake”的组合词，是一种基于深度学习的人物图像合成技术。不同于一般意义上的p图，Deepfakes利用电脑程序找到两个面部之间的共同点，通过搭建神经网络来学习人脸，使替换以后的脸可以生动地模仿原来的表情，以假乱真。 2）Deepfakes的产生与飞跃。

2014年是Deepfake的诞生元年，Goodfellow与同事发表的科学论文标志着GAN AI的诞生，催生出我们如今所熟知的 Deepfakes。在2014年，就有迹象表明 GAN 有望生成仿真度极高的人脸。深度伪造技术开始进入大众视野。在Deepfakes产生初期，生成代理往往倾向于产出分辨率较低而模糊不清的图像是检查代理难以判断内容的真伪，深度伪造技术一定阶段内存在着输出内容像素过低，生成结果难以令人信服的问题。 2017年英伟达推动质量飞跃，利用分阶段训练网络解决了生成代理产出分辨率过低的问题，GAN 开始产出质量空前的伪造人像，深度伪造技术开始被推向市场主流。自此，Deepfakes一词成为 AI 生成图像和视频的代名词。 2019年Deepfake正式成为市场主流，专注于Deepfakes的YouTUbe频道拥有数百万关注者，产出质量远高于其他AI模型。