中國經濟週刊微信號：ChinaEconomicWeekly
中國經濟週刊官方網站：經濟網 www.ceweekly.cn
文|《中國經濟週刊》記者 牛綺思
（本文刊發於《中國經濟週刊》2018年第30期）
人們願意派遣殺人機器到前線作戰，而不願讓自己子女戰死沙場。但是，人們卻又不希望看到敵人派殺人機器來追殺自己。那麼，人類到底要不要擁有這種“殺手機器人”（killer robots），即所謂的致命的自主武器（lethal autonomous weapons）？
對於這件事，特斯拉和SpaceX CEO埃隆·馬斯克的立場可謂異常堅定：禁止。
“永遠不應將人類生命的決定權委託給機器。”
“致命的自主武器，在沒有人為干預的情況下選擇和參與目標，將危及每個國家和個人的穩定。”
“我們既不參與也不支持致命自主武器的開發、製造、貿易往來或使用。”
近日，馬斯克以及谷歌頂級人工智能研究團隊Deep Mind創始人領銜的多家科技界大佬，與來自數百家公司的2000多名人工智能（AI）及機器人領域的科學家，在斯德哥爾摩國際AI聯合會議上聯名簽署《致命性自主武器宣言》，誓言絕不將他們的技能用於開發自主殺人機器。
2013年4月，國際機器人武器控制委員會的成員發起“停止機器人殺手”活動，希望各國能夠以法律形式約束全自動殺人武器的研製和部署。
馬斯克：“殺手機器人”比核武器還危險
這已經不是馬斯克第一次表達如上的憂慮了。
2017年7月，馬斯克在出席一場由美國各州州長參加的會議時曾強調，“我一直在敲響警鐘，等到哪天機器人真的走上街頭、屠殺人類時，大家會不知所措。”
隨後的8月，馬斯克就與100多名AI領域領袖人物簽署公開信，敦促聯合國阻止這項技術改變我們所熟悉的衝突模式。
這封公開信中提到：“致命的自主武器有可能成為戰爭中的第三次革命。一旦它們發展起來，可能導致武裝衝突以比以往任何時候更大的規模進行，而且速度比人類所能理解的還要快。”“這些自主武器可能成為恐怖武器，比如獨裁者和恐怖分子可能對無辜人群使用。”
有分析認為，馬斯克認為AI威脅人類文明的觀點很大程度上可能是受暢銷書《超級智能》作者尼克·博斯特羅姆的影響。2014年8月，馬斯克讀完《超級智能》，便在社交媒體Twitter上公開表示要慎用人工智能，稱其比核武器還要危險。
彼時，他在參加《名利場》舉辦的活動時，稱機器人可能像刪除垃圾郵件一樣“刪除”人類。之後他又發表“機器人威脅論”，稱機器人會在短短的5年內對人類造成嚴重威脅。
到2015年，馬斯克、物理學家史蒂芬·霍金以及蘋果聯合創始人史蒂夫·沃茲尼亞克等3000多名AI研究人員簽署公開信，要求禁止開發“超過人類控制意義之外的自主武器”。當時的研究人員們就說，AI軍備競賽是個“糟糕的主意”。
馬斯克還捐贈1000萬美元，用來研究懂得“倫理道德”的機器人，以確保他們不會毀滅人類。比如，幫助人工智能系統通過觀察我們的行為，從而瞭解人類需求；教授人工智能如何向我們解釋它們做出決定的理由，就像機器人電影《超能查派》中查派能夠快速學習，吸取人類的教導那樣。
2016年，馬斯克成立了腦機接口公司Neuralink，追求一種叫做“神經織網”（neural lace）的技術，在人腦中植入微小的腦電極，有朝一日用來上傳或下載人的思想。
“我認為可以通過改進大腦皮層和數字設備之間的神經元連接，來有效地把AI與人融合在一起，你將成為‘AI—人類’混合體。此外，如果這種形式可以得到普及的話，我們就不用擔心一些邪惡的AI獨裁者了，因為我們就是AI的集合。這是我能想到的最好的方法。”馬斯克說。
英軍制造仿生人“Porton Man”，酷似“終結者”機器人，英國軍方希望未來能夠用更輕更時尚的裝備替代現有的笨重裝甲。
“Guardium”是一種四輪無人駕駛地面車輛，裝備攝像機、夜視設備、傳感器和類似機關槍等的武器。按照預先輸入程序的路線，它可在多座城市中獨自行駛。
以色列研發的跳躍型“蝗蟲機器人”，將來可取代人類進行軍事或搜救行動。
聯合國曾曝光“殺手機器人”視頻：人臉識別，一擊即中
現實中，先進智能化武器確實存在。據瞭解，美國不僅研發了UTAP-22“鯖鯊”、XQ-222“女武神”等智能化無人機，還先後研發了陸上“翼人”機器人車輛、海上水面無人攻擊艇、潛射型機器人、多功能無人潛航器、由海向陸的MUX無人武裝直升機等，形成以人工智能技術為基礎、以集群智能技術為連接的無人兵團。俄羅斯也研發了“天王星”、“平臺”小型無人戰車等智能化作戰平臺……
據不完全統計，目前全球已超過60個國家的軍隊裝備了軍用機器人，種類超過150種。照此發展趨勢，未來軍用機器人在戰場上成建制規模化作戰也未必不可能。
在2017年底舉行的聯合國特定常規武器會議上，播放了一部血腥的微電影：影片中，人類發明了“機器殺人蜂”，它能自己“飛行”，也可以隨機運動，用來反狙擊，能夠在瞬間殺死一群無辜的人。它自帶廣角攝像頭、傳感器、面部識別，且在其中部，還有3克炸藥，一擊即中，極端致命。
目前的武裝無人機，還是由士兵操控的。而這種“機器殺人蜂”不用人類操控，能夠根據預定條件，自主搜索和判斷是否殺死人類。這是人工智能武器的厲害之處，也是它的可怕之處。
美國伯克利大學教授、AI領域資深專家斯圖爾特·羅素警告說，“如果這些機器被賦予殺人的能力，將對我們的安全與自由造成毀滅性的打擊。”
馬斯克是杞人憂天嗎
Facebook創始人扎克伯格一直被外界看作是馬斯克在AI觀點上的反對者。2017年7月，扎克伯格指責馬斯克所描述的末日恐慌是消極的、不必要的，“在某種程度上，這是相當不負責任的行為。未來10年，人工智能將大幅改善人類的生活。”馬斯克隨後回應稱，已和扎克伯格談過，他對人工智能的理解有限。
谷歌母公司Alphabet執行董事長埃裡克·施密特在2017年也反擊過馬斯克的AI威脅論是杞人憂天。
“如果你覺得人工智能在智商上超越人類後就將毀滅我們的種族，那你科幻電影一定是看多了——難道人類會傻到察覺不了AI造反的蛛絲馬跡？直接斷了它們的電源就好。”施密特如是說。
不過，《機器人的興起：技術和失業未來的威脅》作者表示，對於人工智能對人類構成生存威脅這件事，馬斯克的擔憂是合理的，也不應該被忽視。但這種擔憂要在至少50年之後才可能會出現。
德國大眾“機器人殺人”事件
2015年7月，德國大眾汽車公司一家工廠裡，一臺新型協作機器人殺死了一名22歲的裝配技術員。當時他與一名同事合作安置機器人，但被機器人擊中胸部，並被抓起、重重摔在一塊金屬板上，最終因傷重不治身亡。當時，大眾發言人推斷事故是由人為錯誤導致，並不是機器人“蓄意殺人”。
儘管這可能只是一起安全事故，但關於“機器人殺人”的爭論再度出現。未來機器人對人類的威脅，除了在工廠與人類搶奪飯碗外，還可能成為人類的敵人甚至是“終結者”。
對此，許多網友腦洞大開。比如，有的網友隨即聯想到《復仇者聯盟2》裡的奧創，剛一出世就對自己的創造者懷著莫名其妙的憎恨，一心想要消滅全人類。還有網友擔心“這個世界上很多機器人其實已經有能力通過圖靈測試（編者注：如果有超過30%的測試者不能確定出被測試者是人還是機器，那麼這臺機器就通過了測試，並被認為具有人類智能），只是他們在假裝不能”。
請回到文章頂部，點擊右上方“關注”
閱讀更多 中國經濟週刊 的文章
