AI人工智能技术伦理观研究报告(30页)

行业报告下载 2019年07月13日 10:53 管理员

以人工智能为代表的这一轮新技术无疑拥有巨大的潜力和价值，值得在研发和应用上持续投入，但任何有望变革人类社会的新技术都必然会带来社会伦理影响。例如，互联网技术带来的用户隐私、虚假信息、算法“黑盒”、网络犯罪、电子产品过度使用等问题已经成为全球关注焦点，引发全球范围内对互联网技术及其影响的反思和讨论，探索如何让新技术带来个人和社会福祉的最大化。此外，2018 年底发生的基因编辑婴儿事件在国内外引发激烈的伦理争议。人工智能也是如此，其在隐私、歧视、安全、责任、就业等经济、伦理和社会方面的问题正在显现。未来可能出现的通用人工智能和超级人工智能则可能带来更深远而广泛的安全、伦理等影响。

隐私方面，Facebook-剑桥分析数据丑闻引爆了社会对数据的泄露、不正当二次利用、滥用等问题的担忧，而这些问题已是现今互联网用户普遍面临的问题——很多应用软件会过度收集非必需的用户数据、冗长的“用户须知”或“使用协议”诱导用户授权厂商过度使用甚至出售用户数据等。此外，不法分子利用人工智能技术，可以非法窃取、识别个人信息，甚至影响、操纵用户行为和认知。歧视方面，“大数据杀熟”成为 2018 年度社会生活类十大流行语之一，反映了人们对算法歧视的担忧，滴滴、携程、飞猪等都被质疑大数据杀熟。此外，语音识别、人脸识别、精准广告工具等算法应用都可能存在偏见和歧视，甚至还曾引发了诉讼。

安全方面，自动驾驶汽车的安全问题尤其引人关注：Uber 的自动驾驶汽车在测试过程中撞死行人、特斯拉的 Autopilot 系统在运行过程中造成致命事故。人工智能在事关健康安全的医疗领域也出现过问题，比如 IBM 的“沃森医生”给出过“不安全且错误”的癌症治疗建议。除了人工智能系统本身可能不完善的问题，人工智能还面临着被外部攻击风险，比如图像识别和语音识别技术的对抗攻击问题一直都是相关应用头顶上的一片乌云，自动驾驶汽车和智能家居等连接网络的物理设备也存在被网络远程干扰或操控的风险。此外，人工智能还可能被用作攻击手段——比如用于生成虚假视频和图像（所谓的deepfake 即深度伪造），生产和传播假新闻，甚至被用于攻击人工智能系统。