承诺不发展人工智能致武器，马斯克、谷歌携160多个组织签署承诺书
在人工智能这一领域，始终有一部分人坚持“人工智能威胁论”。这其中，就包括已经逝去的霍金教授，以及前段时间来中国准备在上海开设特斯拉超级工厂的埃隆•马斯克（Elon Musk）。
霍金认为，高级形态的AI可能会造成人类的终结。原因在于，一旦AI具有自我意识和自行发展的能力，其就会改进并加快自己的进化速度。而人类受限于生物体的缓慢演化，是没办法在智力进化上同AI竞争的。
至于马斯克，这位特斯拉、SolarCity和SpaceX三家公司的CEO，几年来也频频在多个场合发表“人工智能威胁论”。他曾说：只有当人们亲眼看到机器人在街头杀人之后，才能真正知道该如何对待人工智能。他还认为，AI有可能会成为第三次世界大战的导火索。
甚至，对于如何应对以后机器人杀人的危机，马斯克还提出了一个解决方案：为了避免在人工智能时代人类被淘汰，人类需要与机器相结合，成为一种“半机械人”。
对于马斯克的AI威胁论，世界首位机器人公民（被沙特授予公民身份）索菲亚给予了回应：你可能电影看多了，别担心，人不犯我，我不犯人。
马斯克的机器人威胁论，代表了相当一部分科技创始人的想法。先不说机器人何时进化出“取代人类”的思维，只要在当前那些成型机器人的身上装备几把刀或者几把剑，应该就能上街杀人了，譬如波士顿动力的大狗机器人。
所以，在初级阶段AI会不会成为人类的对立者，还是取决于人类。想要让机器人不作恶，首先人类先要约束自己的欲望。
所以，就在7月18日于斯德哥尔摩举行的国际智能联合会议中，数千名技术领导人齐聚一堂搞了一个誓师大会。来自90个国家的160多个组织和2,460人，参加了这次活动。
活动中，人工智能技术领导者包括OpenAI（马斯克的人工智能项目）创始人埃隆马斯克、Skype联合创始人Jaan Tallinn、人工智能研究员Stuart Russell以及谷歌DeepMind部门的三位创始人，与许多其他科技行业专业人士一起签署了承诺书，承诺书的主要内容是：
不发展或支持致命自主武器的开发，并呼吁各国政府制定有关此类武器的法律法规。
签署承诺书的组织认为，人工智能技术有望在未来的军事进步中发挥重要作用，签署承诺的组织，将敦促世界各国政府出台管理这些武器的法律，以创造具有强大国际规范的未来，进而消除人类生命的风险。致命的人工智能自主武器可能会成为暴力和压迫的强力工具，尤其是在与监视和数据系统相关联时。
此外，致命的自主武器具有与核武器，化学武器和生物武器截然不同的特点，单一集团的单方面行动很容易引发国际社会缺乏管理技术工具和全球治理体系的军备竞赛。
总部位于波士顿的慈善机构-生命未来研究所的承诺认为：致命的自主武器被定义为可以在没有人为输入的情况下瞄准、识别和杀死人类的武器系统。人权观察者则称：这种武器系统已在全球范围内得到发展，特别是美国，以色列，韩国，俄罗斯和英国。”
悉尼新南威尔士大学科学家人工智能教授托比沃尔什，给予这一承诺以评论：“我们不能做出谁生或死于机器的决定，因为机器没有道德规范，你和你的组织更应承诺，确保战争不会以这种方式变得更加可怕。”
事实上，在8月份发布的一封公开信中，就有很多AI专家表示过对AI武器的担忧。在那封信中，115名人工智能专家，包括Elon Musk和谷歌母公司Alphabet的人工智能专家Mustafa Suleyman，都在警告人工智能的危险性。
信中说：“致命的AI自主武器有可能会成为战争的第三次革命。这种武器一旦被大量应用，武装冲突的规模将比以往任何时候都大，而且人类能够理解的速度更快、准确率更高、杀伤力更大……这些武器可能会成为恐怖武器和专制武器，恐怖主义分子可能会用来对付无辜人民，如果这些武器若被黑客入侵就会变的更不可控。
如此多的组织联合发表承诺书，显然已经引起了公众对该问题的关注。据悉，已经很多没参加此次活动的其他组织的技术领导者也给予了支持。
只是，民间组织的承诺书，能不能引起各国相关部门的重视，这就不能推测了。毕竟，武器都是基于政治上的和平与安定。如果每个国家级组织都能和平相处并等同视之，那自然最好。
但像中东等地区的极端组织与恐怖组织，如果他们已经研发并应用了AI武器，你说其他地区的国家会不会也以AI武器反制呢？而反恐机器人，又该不该研制呢？普通机器人，又能否被改造成杀手机器人呢？这一切都有可能！
恐怕，到时人类的战乱又会造就人工智能的进化。而人工智能，恐怕就要逼迫人类变成半人半机器那样的怪物了。
很有可能，历史就会朝着马斯克的预料，向前演进。
閱讀更多 王吉偉 的文章
