提起人工智能，人们首先想到的是方便、快捷，但随着AI的不断发展，一些令人担忧的问题也渐渐浮出水面，许多类似于《终结者》这样的科幻电影都在告诫人们：人工智能虽好，但也得有个“度”。
近日，有“钢铁侠”之称的马斯克就发起了一项特殊协议，2400多位科学家联名签署，而该协议的宗旨只有一个：承诺永不发展致命性AI武器系统。此协议一经发出，众多科学家纷纷响应。
到底致命性AI武器有多可怕？早前美国就公布了一款陆军定点哨兵机器人，该机器人能在无人控制的情况下，全天候待命，从寻找目标，精准定位，到发起攻击，一整个流程跑完比普通的士兵效率提高了近3倍。
据说，这种机器人还可根据敌方的战力值发起多样化攻击，不仅能在夜间瞬间发现并瞄准敌人，还可利用自身高科技实施精准打击，堪称世界上最完美的“神枪手”，如果敌人毫不知情，那么面对这类智能武器将损失惨重。
而在此次马斯克发起该协议之前，联合国就该问题在《常规武器公约》中进行了深度讨论，如果AI武器不作针对性，限制性发展，那么终有一天人类将被机器所主宰，甚至科幻电影中的机器人“背叛”事件也将真实发生。
马斯克此次发起的《致命性自主武器宣言》中就提到：我们应该立即停止参与致命性自主武器（LAWS）的研发，这类项目也应该受各国军方重视并尽早叫停。宣言还称，人类个体的生死决定权决不能交由机器去作出判断，否则全人类都在劫难逃。
马斯克强调，致命性自主武器的发展比较特殊，未来可能会越来越不可控制化，这和核武器是有本质区别的。不过，目前美国却在人工智能武器的发展上驶入了快车道，并且打擦边球，反而要求中国这些后来者停止发展。
的确，如果某一天，人类制造出来的这些持有武器的机器人被黑客入侵，那么这可能会衍生为一场个人的、偏激的“战争”，如果AI本身就是不可控的，那么人类就不应该继续朝着悬崖边迈进。
閱讀更多 千字軍事 的文章
