原標題：機器人的“心智”被開發，AI的威脅越來越近了
自人工智能興起以來，就有不少學者提出了“人工智能威脅論”。 人們想象，人工智能完全實現時，AI將會成為一種源自人類創發、卻優於人類的獨立自主的生命形態，具有與自然人一樣的人性構建。
當然，還是有不少人提出了反對，人們對人工智能發展的憂慮很大程度上在於混淆了智能與心智這兩種現象。一般而言，心智是由三個功能相對獨立但又全面整合的系統——情感系統（感受和動機）、意志系統（意志和行動）和智能系統（感知和思維）構成的。顯然，智能只是心智的一個子系統。
AI雖有感知和思維，但沒有情感系統的引導，智能系統就不能發揮它應有的作用，“心智”一直被認為是人工智能無法掌握的能力。然而，在DeepMind今年發表的論文《Machine Theory of Mind》中，研究人員提出了一種新型神經網絡ToMnet，具備理解自己以及周圍智能體心理狀態的能力。
人工智能被開發出了心智，我們樂見其成的同時，也感到了一絲擔憂，人工智能越來越擬人化，究竟是好是壞？面對此項研究，AI威脅論是否有了新的證據呢？
人工智能的“心智”，從理解信念開始
所謂信念，是指人的願望、想法、知識、理念、意圖以及需要等思維。信念與人的願望、情緒、行為等都有很大的關係。在日常生活中，人們都是通過推測別人的信念來估計他人的情緒、心態以及下一步行為的。
信念分為真實信念和錯誤信念，比如說你看到一個書包，你自然會去猜測裡面裝有書籍，如果書包裡確實裝的是書籍，即人的想法與現實情況相符合，這就是真實信念。而錯誤信念就是，你認為書包裡有書，但書包裡拿出的是一件衣服，即想法與現實不相吻合。
一般來說，人工智能能夠通過大數據、圖像識別等技術，基於概率推論來預測出人們或者是智能體的真實信念。但絕大部分的人工智能都難以通過簡單的錯誤信念測驗。即使AI 很可能以接近完美的準確率完成錯誤信念任務，但它們依舊不能理解這是為什麼。
舉個例子，有一個最經典的初級信念測試Sally-Anne測試——Sally有一個籃子和一顆球，Anne有一個盒子。Sally將球放進自己的籃子裡，然後出去了。Anne將籃子裡的球拿出來，放進她的盒子裡。後來，Sally回來了，她想玩球。信念問題是，Sally會去哪裡找球？
4、5歲的孩子便能夠答對這個問題，但人工智能就不具有這樣的認知。人類在大約 4 歲的時候就會開始理解錯誤信念，即開始知道現實生活中可能有一些情景與自己的想法是不一致的。
錯誤信念的理解，對於機器人的心智開發而言，起著至關重要的作用。因為對錯誤信念的理解是推測他人對事件的判斷、預測他人下一步行為、瞭解他人心態的的基礎。這是訓練AI掌握心智理論（人類和其他動物具備的心智理論）的關鍵階段。
在DeepMind的研究中，最終結果證明，ToMnet學會了對來自不同群體的智能體進行建模，包括隨機、規則系統和深度強化學習智能體等，該網絡通過了經典的"Sally-Anne"測試，可以理解持有錯誤信念的智能體，也就是說，人工智能已經可以達到四歲兒童的理解水平了。
人工智能的心智開發，總算是有了堅實的基礎。
AI心智開發後，“AI威脅論”再次興起為哪般
毋庸置疑，人工智能對錯誤信念的理解有利於其心智的形成，具備理解能力的機器人也將改善人機之間的合作，但是，技術的發展也是雙刃劍，人工智能再次升級，也引發了人們的擔心。
AI“騙術“再升級，難博人類信任
人工智能對人類的“欺騙”由來很久，比如在去年，Facebook的聊天機器人就創造了一種新的表達方式進行對話，機器人自創“行話”，讓人類不解其意。
工作人員將這次“意外”解釋成沒有設置英語語法的激勵機制，理由很充分，但人工智能揹著人們交流，還是讓人類產生了擔憂。
在“欺騙人類”的道路上，人工智能可能會越走越遠。從語言合成到圖像生成再到模擬人類的對話，人工智能正在許多領域逼近甚至超越人類的表現水平。
有研究人員指出，如果一臺計算機能夠理解錯誤信念，那它就可能知道如何誘導人類相信它，進而實現機器對人的“欺騙”。
設想一下，聊天機器人學會談判之後——機器人依靠機器學習和先進的策略，試圖改善談判的結果。隨著時間的推移，這些機器人變得相當熟練，甚至開始假裝對某件事情感興趣，便於在談判的後期做出“犧牲”，作為一種假妥協。
2.“人工心智”的出現是原罪
以前，人工智能的威脅可能僅僅在於技術的工具性威脅和人們的適應性威脅，這也是各種取代論調喧囂塵上的原因。
AI作為人類使用的工具、技術，人們害怕的是因使用不當而導致的危害或者是智能化帶來的失業風險，例如，弱人工智能系統可能因人的惡意操控而造成導航錯誤、金融市場崩盤等等。在這些想象中，AI並不具有自主威脅人類的意圖。
但是，“人工心智”的出現讓人類對人工智能最深層的恐懼浮出水面，那就是人工智能具有主動的感受後，給人類帶來的生存性威脅。
霍金曾這樣描述過，“一旦人類開發了人工智能，它們將以一種持續增加的速率不斷進行自我更新，並最終脫離我們的掌控……人工智能未來還將發展出自己的意志，這種意志將與人類的意志產生衝突。“
事實上，能帶來這種威脅的人工智能更確切地說不是人工智能而是人工心智——一個儘管是人工的、但卻是獨立自主的、能夠感受周圍智能體的主體。當AI有了心智，就會具有能對智能加以規範的自治的情感系統，與人類的區別又一次縮小了。
結論：
就目前來看，人工智能為我們解決了許多難題，在未來也毫不意外地將會大幅度提高人類社會的生產力，對AI的發展是否會威脅到人類，我們持一個開放的立場。
閱讀更多 梅子涼茶 的文章
