《人工智能安全》关注人工智能当下技术发展和产业应用中的安全问题，介绍了人工智能的发展历程，梳理了人工智能安全面临的挑战和人工智能安全体系架构，分析了人工智能在安全治理领域的作用、国内外人工智能安全治理进展、人工智能安全未来发展等。
本书可供计算机、人工智能等相关领域专业人员作为人工智能安全开发、应用工作的参考，也可供不具备人工智能背景知识的人士阅读。

本书关注人工智能当下技术发展和产业应用中正在发生的安全问题，内容包括现阶段人工智能安全风险、人工智能在安全领域的应用情况、国内外人工智能的安全治理举措、人工智能安全研究热点等，对当前人工智能健康发展具有一定参考意义。

2016年3月，谷歌旗下DeepMind公司开发的AlphaGo机器棋手以4:1战胜世界围棋冠军李世石。虽然十多年前国际象棋专家穆勒就预计，顶尖围棋棋手臣服于人工智能（Artificial Intelligence，AI）脚下并不遥远，但是这一天真的到来之时，还是让人们不胜唏嘘。AlphaGo的横空出世在让人们震惊的同时，也让人工智能这一沉寂多年的技术术语又一次成为媒体热词，走进大众视野。无论是在国家政策规划、行业发展战略，亦或是企业投融资方案、消费者分析报告中，都能够看到人工智能“活跃”的身影。
当下，人工智能作为引领新一轮科技革命和产业变革的战略性技术，正在对国家经济发展、社会进步以及国际政治经济格局等产生重大深远的影响。美国、欧盟、英国等发达经济体纷纷出台人工智能国家发展战略，加大人才培养、研发投入和产业投资，构建适合人工智能发展的政策环境和数据基础，以期争夺全球领先地位。日本、韩国、新加坡等亚太国家也制定出台符合本国实际的人工智能发展行动计划，以推进经济发展和社会进步。
我国2017年发布《新一代人工智能发展规划》，将人工智能发展提升到国家战略。《新一代人工智能发展规划》将构建开放协同的人工智能科技创新体系、培育高端高效的智能经济、建设安全便捷的智能社会、构建泛在安全高效的智能化基础设施体系等作为重点任务，覆盖了广泛的人工智能研究方向和应用领域，力图实现人工智能产业的全面发展。经过多年努力，我国已经跻身全球人工智能领先国家，在人工智能研发和商用方面，逐步缩小和美国的差距。当前，人工智能已广泛应用于医疗、交通、金融、制造、家居、安防等多个领域，推动传统行业的数字化转型和智能化升级。特别是在新冠疫情期间，人工智能应用和产品更是充分发挥自感知、无接触、全天候、无人化等技术优势，为疫情防控和复工复产提供“硬核”支撑。2020年3月4日，中共中央政治局常务委员会召开会议，提出要发力于科技端的新型基础设施建设。作为“新基建”核心板块，人工智能更加受到关注。人工智能借助其底层支撑技术的普遍适用性，基础设施化特征更加明显，将为经济社会的智能化转型和高质量发展赋能助力。
但是，当人们为人工智能发展欢呼雀跃的时候，人工智能安全风险正在悄无声息地潜入人们生产生活的各个方面：摆在客厅里的智能音箱，有可能成为黑客的窃听设备；广泛部署的人脸识别设备，可能大量获取公众隐私；家人的语音通话，有可能是诈骗分子通过语音合成而来；行驶的自动驾驶车辆，有可能“失控”而成为马路杀手。不断暴露的人工智能安全问题，正在引发公众的焦虑与担心。同时，人工智能技术也会应用于传统安全领域，为网络空间安全防护、国家社会安全治理等提供新的技术手段，大大提升传统安全的自动化和智能化水平。趋利避害，如何有效规避人工智能安全风险、加强人工智能安全应用，成为推进人工智能持续健康发展的重要保障。
目前关于人工智能的书籍大多是从发展的角度进行阐述，关注人工智能发展对经济社会的促进和变革作用，包括李彦宏的《智能革命》、吴军的《智能时代》、李开复的《AI·未来》等，以及从人工智能伦理角度介入，关注人类未来命运的书籍，包括迈克斯·泰格马克的《生命3.0》、尤瓦尔·赫拉利的《未来简史：从智人到神人》等。其中也不乏关注人工智能安全的章节，但更多是着眼于未来，担心人工智能对未来社会就业的替代、人类隐私的掌控以及强人工智能对人类命运的影响：是会像马克·扎克伯格宣扬的那样造福人类生活？还是会像史蒂芬·霍金、埃隆·马斯克警告的那样威胁人类生存？
与以上书籍不同，本书更多是关注人工智能当下技术发展和产业应用中正在发生的安全问题，包括现阶段人工智能安全风险、人工智能在安全领域的应用情况、国内外人工智能的安全治理举措、人工智能安全研究热点等，期望对当前人工智能健康发展具有一定的参考意义。本书的编写团队长期跟踪人工智能安全态势，进行人工智能安全风险、安全应用以及安全治理研究，在人工智能安全方面有较强的研究积累。
本书的编写基于著者多年的研究，并凝聚最新的研究思考。本书各章节内容简要介绍如下：第1章基于人工智能的发展历程，着力理清现阶段人工智能与安全的相互关系；第2章梳理总结人工智能安全挑战，构建涵盖国家社会安全、物理世界安全和网络空间安全的人工智能安全体系架构；第3章选取人工智能在安全领域的热点应用，分析人工智能在网络空间安全防护和社会公共安全治理领域的促进作用；第4章分析国际人工智能安全治理进展，包括世界主要国家的人工智能安全治理部署思路和具体举措；第5章分析国内人工智能安全治理情况，明晰取得的成果和存在的问题；第6章围绕人脸识别、智能网联汽车、深度伪造等人工智能应用先导和问题突出领域，聚焦热点，进行有针对性的研究分析；第7章结合全书内容提出人工智能安全发展的总体展望，希望能够和广大读者产生共鸣。
本书既可供计算机、人工智能等相关领域专业人员作为人工智能安全开发、应用工作的参考，也可供不具备人工智能背景知识的人士阅读，了解人工智能安全的相关问题和理念，推进全行业、全社会层面的人工智能安全治理工作。
由于水平有限，且人工智能及安全尚在不断发展过程中，如果读者发现书中存在不足之处，恳请提出宝贵意见，在此表示衷心感谢。

著者
2020年4月

第1章　人工智能与安全　// 001
1.1　人工智能　// 002
1.1.1　人工智能基本概念　// 002
1.1.2　人工智能发展历程　// 004
1.2　人工智能安全　// 008
1.3　人工智能安全挑战和机遇　// 011
1.3.1　安全挑战　// 011
1.3.2　安全机遇　// 012
1.3.3　安全治理　// 012

第2章　人工智能安全挑战　// 015
2.1　人工智能安全问题起源　// 016
2.2　人工智能安全体系架构　// 018
2.3　网络空间安全挑战　// 019
2.3.1　网络安全挑战　// 019
2.3.2　数据安全挑战　// 021
2.3.3　算法安全挑战　// 025
2.3.4　信息安全挑战　// 027
2.4　物理世界安全挑战　// 029
2.4.1　人身安全挑战　// 029
2.4.2　财产安全挑战　// 029
2.4.3　环境安全挑战　// 030
2.5　国家社会安全挑战　// 030
2.5.1　政体安全挑战　// 030
2.5.2　军事安全挑战　// 031
2.5.3　就业安全挑战　// 032
2.5.4　伦理安全挑战　// 034
2.5.5　产业安全挑战　// 035

第3章　人工智能安全应用　// 039
3.1　概述　// 040
3.2　网络空间安全应用　// 041
3.2.1　网络安全防护应用　// 041
3.2.2　数据安全治理应用　// 045
3.2.3　内容安全审查应用　// 047
3.3　社会公共安全应用　// 049
3.3.1　智能安防应用　// 049
3.3.2　金融风控应用　// 051
3.3.3　网络诈骗治理　// 052
3.3.4　新冠疫情防控　// 054

第4章　国际人工智能安全进展　// 059
4.1　主要国家在人工智能安全方面的部署　// 060
4.1.1　美国　// 060
4.1.2　欧盟　// 062
4.1.3　英国　// 063
4.1.4　其他　// 063
4.2　主要国家在人工智能安全方面的举措　// 065
4.2.1　政策规划　// 066
4.2.2　伦理原则　// 072
4.2.3　法律法规　// 075
4.2.4　行政监管　// 077
4.2.5　标准规范　// 081
4.2.6　人才队伍　// 084
4.2.7　安全技术　// 085
4.2.8　产业生态　// 090

第5章　我国人工智能安全进展　// 095
5.1　政策规划　// 096
5.2　伦理原则　// 099
5.3　法律法规　// 100
5.4　行政监管　// 103
5.5　标准规范　// 106
5.6　人才队伍　// 108
5.7　安全技术　// 111
5.8　产业生态　// 113

第6章　人工智能安全研究热点　// 117
6.1　算法智能推荐　// 118
6.1.1　概述　// 118
6.1.2　技术应用　// 118
6.1.3　风险挑战　// 120
6.1.4　治理动态　// 122
6.1.5　措施建议　// 123
6.2　深度伪造技术　// 124
6.2.1　概述　// 124
6.2.2　技术应用　// 125
6.2.3　风险挑战　// 126
6.2.4　治理动态　// 127
6.2.5　措施建议　// 129
6.3　生物特征识别　// 130
6.3.1　概述　// 130
6.3.2　技术应用　// 131
6.3.3　风险挑战　// 133
6.3.4　治理动态　// 135
6.3.5　措施建议　// 141
6.4　智能网联汽车　// 142
6.4.1　概述　// 142
6.4.2　技术应用　// 143
6.4.3　风险挑战　// 144
6.4.4　治理动态　// 146
6.4.5　措施建议　// 147
6.5　人工智能诈骗防范治理　// 148
6.5.1　概述　// 148
6.5.2　技术应用　// 149
6.5.3　风险挑战　// 150
6.5.4　治理动态　// 153
6.5.5　措施建议　// 157

第7章　人工智能安全展望　// 161
7.1　充分发挥伦理原则的指导作用　// 162
7.2　有序推进法律法规的制定出台　// 163
7.3　适时完善行政监管的机制建设　// 165
7.4　加快推动安全标准的研究制定　// 167
7.5　持续强化人才队伍的引进培养　// 169
7.6　深化开展安全研究和安全应用　// 170
7.7　瞄准补足智能产业的发展短板　// 172
7.8　全面加强社会公众的宣传引导　// 174

参考文献　// 175

后记　// 177