提起人工智能，人們首先想到的是方便、快捷，但隨著AI的不斷髮展，一些令人擔憂的問題也漸漸浮出水面，許多類似於《終結者》這樣的科幻電影都在告誡人們：人工智能雖好，但也得有個“度”。
近日，有“鋼鐵俠”之稱的馬斯克就發起了一項特殊協議，2400多位科學家聯名簽署，而該協議的宗旨只有一個：承諾永不發展致命性AI武器系統。此協議一經發出，眾多科學家紛紛響應。
到底致命性AI武器有多可怕？早前美國就公佈了一款陸軍定點哨兵機器人，該機器人能在無人控制的情況下，全天候待命，從尋找目標，精準定位，到發起攻擊，一整個流程跑完比普通的士兵效率提高了近3倍。
據說，這種機器人還可根據敵方的戰力值發起多樣化攻擊，不僅能在夜間瞬間發現並瞄準敵人，還可利用自身高科技實施精準打擊，堪稱世界上最完美的“神槍手”，如果敵人毫不知情，那麼面對這類智能武器將損失慘重。
而在此次馬斯克發起該協議之前，聯合國就該問題在《常規武器公約》中進行了深度討論，如果AI武器不作針對性，限制性發展，那麼終有一天人類將被機器所主宰，甚至科幻電影中的機器人“背叛”事件也將真實發生。
馬斯克此次發起的《致命性自主武器宣言》中就提到：我們應該立即停止參與致命性自主武器（LAWS）的研發，這類項目也應該受各國軍方重視並儘早叫停。宣言還稱，人類個體的生死決定權決不能交由機器去作出判斷，否則全人類都在劫難逃。
馬斯克強調，致命性自主武器的發展比較特殊，未來可能會越來越不可控制化，這和核武器是有本質區別的。不過，目前美國卻在人工智能武器的發展上駛入了快車道，並且打擦邊球，反而要求中國這些後來者停止發展。
的確，如果某一天，人類製造出來的這些持有武器的機器人被黑客入侵，那麼這可能會衍生為一場個人的、偏激的“戰爭”，如果AI本身就是不可控的，那麼人類就不應該繼續朝著懸崖邊邁進。
閱讀更多 千字軍事 的文章
