2019年5月17日，原公安部网络安全保卫局局长、中国公共安全防范产品行业协会副理事长顾建国应《网安大讲堂》的邀请，面向河南省公安战线、省直机关、企业单位等300余位负责网络安全的领导和专业技术人员，展开《人工智能安全浅谈》的培训。
本次授课主题：人工智能安全浅谈
01.人工智能的安全问题
随着步入数字、网络化、智能化的新时代，人工智能已成为新一轮产业革命的强大动力和显著标志，将给我们的社会生产和生活方式带来重大变革和影响，伴随着人工智能的发展和大量应用，所带来的安全问题也应引起关注和重视。2018年8月14日，委内瑞拉总统马杜罗在集会活动中收到无人机炸弹袭击；2018年3月，优步（Uber）自动驾驶汽车因机器视觉系统未能及时识别路上突然出现的行人，导致汽车与行人相撞致人死亡……
人工智能目前面临的三大安全问题，包括人工智能自身、产品及应用安全。人工智能技术框架相对有限，目前主要的人工智能应用开发平台有谷歌的FensorFlow，脸谱的Pythoch，亚马逊的MxNet等，多为少数互联网巨头所垄断，核心技术不能自主掌控。同时，针对人工智能的模型/算法的各种攻击手段，也不断翻新，例如白盒攻击、黑盒攻击、模型窃取等。同时人工智能也面临传统的网络安全问题，系统安全的脆弱性，数据后门攻击、药饵攻击等对人工智能安全直接构成安全威胁。
02.国外AI安全动态
美国、欧盟等西方国家在大力发展人工智能的同时，相继制定原则规范，研究人工智能带来的风险和安全问题。2017年1月，美国未来生命研究院（FLI）在阿西洛马召开“有益的人工智能会议”，会议从研究问题、伦理价值观和长期问题等三个方面，共同达成了23条人工智能原则。2017年9月，联合国教科文组织和世界科学知识与技术伦理委员会联合发布《机器人伦理报告》，提出要重视数据和隐私保护，机器人与制造者之间的责任分担机制，建立预警机制。2017年，欧洲会议通过了要制定“机器人宪章”的立法决议；2018年，欧洲科学与新技术伦理组织发布《关于人工智能、机器人及“自主”系统的声明》，提出一套基于欧盟条约和基本权利宪章规定的价值观和九条基本伦理原则。此外，美国、英国德国、日本和韩国等多个国家相关组织都在研究探讨人工智能安全问题与对策。
03.AI安全问题的对策思考
2017年7月，我国国务院印发第一个专门的国家级人工智能战略文件《新一代人工智能发展规划》。《规划》提出要“加强人工智能相关法律、伦理和社会问题的研究，建立保障人工智能健康发展的法律法规和伦理道德框架”，包括制定相关安全管理法律，为新技术的快速应用奠定法律基础；民事与刑事责任确认； 建立追溯和问责制度；加强对人工智能潜在危害与收益的评估等。这是对我国人工智能和发展安全提出的总体框架要求。在《规划》的指导下，相关部门针对无人机、自动驾驶、智慧金融等出台了相应的规范文件，在防范风险、保障安全方面提出了具体措施要求。
人工智能安全需遵循“六个必须”：
一、是必须统筹发展与安全。
二、是必须体现和落实总体国家安全观。
三、是必须重视人工智能自身安全。
四、是必须加强人工智能法律法规和伦理道德建设。
五、是必须加强人工智能安全标准体系建设。
六、是必须加强人工智能的安全监管。
人工智能安全与网络安全有着共同特点，但前者更具有广泛性、渗透性、冲击性和复杂性的特点，我们既要从整体上研究把握，也要注重人工智能安全的突出问题，以科学的态度，历史的责任迎接人工智能时代的到来。
閱讀更多 網信大講堂 的文章
