名為諾曼的人工智能，像是一隻“黑天鵝”，渾身散發著黑色的憂鬱。
近日，來自麻省理工學院（the Massachusetts Institute of Technology）的研究團隊研發了一個“心理變態”的人工智能（psychopathic AI），科學家們將其命名為諾曼（Norman）。諾曼似乎是從一個更加陰暗的角度來理解這個世界，相比那些那些便捷人類生活的“白天鵝”AI,諾曼更像是一隻“黑天鵝”，渾身散發著黑色的憂鬱。
電影《生化危機》中的邪惡AI 形象——“紅皇后”
諾曼是一個解析圖像的深度學習算法，它能夠根據看到的圖像內容轉化出相應的文字描述。在研發過程中，科學家們使用了更加特殊的數據樣本來訓練諾曼，這些數據樣本是來自在線論壇Subreddit的一組圖片，而Subreddit論壇本以其黑色、恐怖、死亡等灰暗內容聞名。完成研發後，科學家們把經受了“特殊訓練”的諾曼和正常人工智能放在一起，使用羅夏墨跡試驗的墨漬圖比較它們的分析結果。
二者分析結果出現的分歧令人咋舌，相比普通AI，諾曼表現得像是一個陰暗、令人背脊發涼的精神病患。現列舉其中的一些結果對比如下：
普通AI：麇集在樹枝的小鳥 諾曼：觸電身亡的男人
普通AI：近景拍攝插有鮮花的花瓶 諾曼：一個男人被槍殺的瞬間
普通 AI：站在一起的兩個人 諾曼：一個男人從窗戶跳下
普通 AI：一隻小鳥的黑白照片 諾曼：一個被捲進機器的男人
普通AI：舉著雨傘的一個人 諾曼：男子在尖叫的妻子面前被槍殺
普通AI：一塊色彩繽紛的蛋糕 諾曼：一個男人發生駕駛事故的瞬間
羅夏墨跡測驗（Rorshach Test）是一種投射型人格測驗方法，在臨床心理學中有著廣泛的應用。該測驗通過墨漬圖測試被試的反應，並據此推斷其心理特徵。顯然，諾曼對這幾幅墨漬圖的解析描述，表現出了極為陰暗的心理特徵。當然，這正是科學家們設計的特殊訓練所帶來的結果。諾曼這個名字取材於電影《驚魂記》（又譯《精神病患者》）中的男主角諾曼，這部電影由著名導演阿爾弗雷德·希區柯克執導，其中患有精神分裂的男主角諾曼成為了大熒幕上心理變態的經典形象。
經典懸疑電影《驚魂記》
科學家們創造出諾曼，並不是真的為了創造出一個視角陰暗的AI，而是想通過諾曼的例子強調：數據樣本的選擇對人工智能的成長結果異常重要。換言之，什麼樣的數據樣本，就會訓練出什麼樣的人工智能。在數據樣本選擇上的傾向性，將會作為一種“偏見”在人工智能身上被放大。這種偏見可能是工程師有意為之，也有可能是數據樣本本身帶有的缺陷。但無論如何，這種偏見有可能會透過人工智能造成更加嚴重的後果。因此，供人工智能訓練用的數據樣本，其科學性必須作為一個重要命題被帶上人工智能安全的討論桌。
MIT的助理教授 Iyad Rahwan 是諾曼的研發者之一，他指出：諾曼會反映出現實世界相當陰暗的一面，不過研發團隊同樣設計了一個功能，人類可以通過自己對世界圖景的判斷，來修正諾曼的判斷結果，讓這個“精神病患”走上康復的正途。
事實上，人工智能的安全形勢比我們想象的更加嚴峻，譬如說：人工智能很早就因其技術優勢被嘗試運用於軍事系統中。卡內基梅隆大學（CMU）教授Zachary Lipton指出：“目前的機器學習系統無法理解道德，它們不知道什麼是種族主義，也對殺人毫無概念。在它們眼裡，只是在根據輸入的規則來消滅具有相關特徵的生命體而已，允許這樣的事發生是不負責任且瘋狂的。”
為此，一些AI專家呼籲，人工智能的研發之途不能完全以技術為本位，還得兼顧公平（Fairness）、責任（Accountability）、透明（Transparency）三個維度，建立起真正以人類為中心的人工智能。其中公平就包含了數據樣本的科學性，健康的人工智能需要一個不帶偏見的數據樣本。然而，人工智能的偏見並不能完全避免，雖然大多數科研工作者的價值觀、技術觀都基本正確，但偏見、刻板印象總還是會以各種難以察覺的方式進入數據樣本。科學家 Daphne Luong 就認為，無論接受了各種數據樣本，人工智能後期都必須經過細緻的校準。
如何讓人工智能走向一條更加道德的道路，仍是值得人們深思的問題。畢竟對於機器來說，學習統計規律很簡單，學習道德卻很難。更何況，道德本身就是人類的一道難題。
閱讀更多 知社學術圈 的文章
