前段时间，引石老王被邀请回答了悟空问答的一个问题“未来哪几个行业要垮掉？”，引石老王的回答引起了众多读者的留言与争论，引石老王粗略做了统计，发现60%以上的人都在担心人工智能的发展给人类带来的风险！甚至有的人提出了人类被人工智能替代、消灭的担心？

人工智能技术不可能替代人类，但确实存在致命风险

目前已经实现了很多基于物联网的应用，诸如：无人驾驶、无人飞机、远程医疗等等。人工智能技术正在影响和改变着人们的生活。

人工智能产品是人类制造出来的一种高科技服务产品，目的是更好地为人类服务，像美国大片描述的那样，智能机器人自己思考、消灭人类的事情不可能会发生，大多数人对人工智能的了解还处在初级阶段，大可不必如此担心。但有一种风险却一直存在：如果人工智能被非法者控制，对人类的风险来讲，那将有可能是致命的。

指令是系统的最基础单元，也是智能产品与人类实时交流的核心基础，保护系统指令是智能产品安全防御的关键

物联网即万物互联，实际就是“物”与“物”之间的沟通，而由人工智能技术实现的智能产品就是物联网的“物”。这些智能的“物”（或者叫智能产品），是通过什么来按照人类的要求完成功能服务的呢？从系统程序本身来讲，指令是系统的最基础单元，任何系统都是通过指令来完成应用的。所以，物联网种，智能产品之间的交互与动作，都是由它们的系统接收或发送相关指令来进行的，通过指令来处理人们的需求，完成对人们的服务。

比方说：我们想让一台机器人去开门，那我们就可以通过语音、遥控器或某个按钮来控制机器人系统，执行开门指令让机器人把门打开。所以，系统指令作为智能产品与人类交流的核心基础，显然对它的保护是至关重要的。你想想，一旦坏人控制了这些指令，那不就等于控制了这个产品吗？那它就不一定听我们的话了，我们就可能会面临风险。所以，不管你的智能产品用了哪些高超的安全手段，如果这些手段还不能保证这些产品系统的关键指令安全，那只能说你并没有掌控这个产品，黑客们随时会来串门的。

人工智能技术发展的初衷是要更好地为人服务。所以人工智能产品从一开始就与人的生活、工作都联系在一起，人工智能产品的防劫持非常重要，一定要从系统的关键指令入手，为它们建立起真正的主动防御体系。当黑客入侵时，系统可以主动应对风险，杜绝非法劫持控制事件的发生。

对于人工智能来讲，依靠系统升级、漏洞检测，或者在风险发生后事后防御的传统安全思维是没用的，要实现人工智能的自主化、主动安全防御才是系统反劫持、反控制的方向。

引石老王：从事信息安全工作20年的职业经理人，国内首批商业密码从业人员，国家商业密码应用的参与者与见证者。专注人工智能反劫持技术与信息安全反黑，为您解读当下科技创新与发展。

关注引石老王，评论安全热点，解读安全风险，欢迎您留言探讨，期待与您的互动，共同交流！