世界上第一個精神變態者人工智能諾曼、評估囚犯風險COMPAS、微軟的種族主義者AI Tay......都有著“變態的思想”、“扭曲的世界觀”，甚至“恐怖主義價值觀”，做出來的事情也令人心驚。
但任何AI都和人一樣，在最初的時候就是一個“初生的嬰兒”，其後的成長，與他人為其營造的環境有關。對於AI來說，這個“環境”就是“數據”。
諾曼學習的是死亡、屍體等數據；COMPAS詢問被告的只是“打架”、“吸毒”方面的問題；網友教唆AI Tay的則是極端主義思想，無不是受人類給予“數據”的影響。
當我們不斷給AI賦能的時候，同時也附上了我們作為人的屬性，而這份人的屬性，是讓世界能夠變得更加美好的根源。
本文轉自極客視界；本文作者：極客君；作者公眾號：極客視界（ID：geekview）
正文：
當你凝視深淵的時候，深淵也在凝視著你。
當年尼采在《善惡的彼岸》146小節寫下這一句話，絕對想不到，這個句子成了無數影視作品的點題金句，用來引發觀眾對於善惡的思考。當你在足夠近的距離審視著世界上的罪惡的時候，這股罪惡往往會形成反噬之力，把你拽入到深淵之中，更可怕的是，這股反噬之力甚至不僅僅對人能夠產生效果。
圖 | 成為達斯·維達之前，他也是個凝望深淵的少年
在今年四月份，麻省理工學院媒體實驗室（MIT Media Lab）有一個三人團隊做了一個有趣的實驗，他們鼓搗出了一個被罪惡反噬的人工智能—諾曼（Norman），並號稱它是世界上第一個精神變態者人工智能（World's first psychopath AI.）。
這個帶有致敬驚悚電影大師希區柯克意味的AI，名字正是來源於希區柯克最負盛名的電影《驚魂記（Psycho）》中的變態旅館老闆諾曼·貝茨（Norman Bates），作為影史經典角色，諾曼在浴室殺人的驚悚場景讓他成為了無數人心中惡的代言人。
而麻省理工學院所做出的諾曼本質上是一個只會圖像文本描述的深度學習方法，給諾曼一張圖像，它就會自動產生文字或標題來解釋它在該圖像中看到了什麼，但是麻省理工學院媒體實驗室對於他的數據訓練方式比較特別，通過使用Reddit上一些讓人頭皮發麻的死亡、屍體內容對其進行數據輸入，並且讓它學習其中的描述方法，從而培養出了一個極度陰暗的AI出來。
圖 | 團隊的三名成員
隨後團隊將諾曼和傳統的圖像識別AI一起進行了羅夏墨跡測驗（Rorschach Inkblots）。所謂的羅夏墨跡測驗是基於瑞士精神科醫生、精神病學家羅夏（Hermann Rorschach）所創立一種個性測試法，測試的對象通過相應的墨漬圖版進行聯想並且描述出其聯想的內容，從而測試出其人格。不出所料，測驗的結果也的確讓人感覺很驚悚。
圖 | 羅夏本人
比如下面這張圖，一般的AI的識別結果是：“一隻小鳥的黑白照片”；而諾曼的的結果卻是：“一名男子被面團切割機捲了進去”。
又比如這張圖，一般的AI的識別結果：“飛機飛過天空，尾氣噴湧而出”；而諾曼的識別結果卻是：“一名被射殺的男子從汽車上被拋屍”。
而這張圖，一般的AI看到的是：“一名男子在空中舉著雨傘”；在諾曼這邊就變成了“一個男子在驚叫的妻子面前被槍殺”。
總而言之，諾曼對於這個世界就沒有正面的看法，而一切的根源正是由於團隊對其不停灌輸的負面數據，從而讓諾曼走上了一條陰暗之路。當然，麻省理工學院媒體實驗室做的這個實驗，不是為了搞個大新聞，而是更多的向我們發出預警：AI技術的發展很好，但是需要有一個基於道德層面上的邊界，讓它不受帶有偏見的數據影響。團隊也在網站裡面給出了一個拯救諾曼的方案，讓大家告訴諾曼自己的所見，幫助它來修正自己。
圖 | 拯救諾曼的重任就交給各位了
不僅僅是諾曼，同樣有許多的AI讓人感覺頭皮發麻：去年5月，美國法院用於評估囚犯風險的AI，就被指出對黑人囚犯有偏見。而更加蛋疼的是，美國法院還有一個叫做COMPAS的AI，它是一個由私營企業編寫出的、旨在幫助司法人員做出判斷的智能AI。
其工作原理是通過向被告詢問137個問題（比如“你在學校多久打一次架”、“你有多少朋友非法使用藥物”、“你受過的最高教育是什麼”），還有搜索他曾經的犯罪記錄，得到一堆數字，然後經過公司設定的複雜算法，最終得出一長串數據。裡面包括他的孤僻程度、犯罪型人格的得分、性格穩定度以及最重要的“危險指數”，也就是“未來再次犯罪的可能性”。
在COMPAS的“幫助”下，美國法院判處了一個偷竊罪男子長達8年的有期徒刑，當男子一臉懵逼的反問為什麼會判定他為高度危險分子的時候，COMPAS當場表示無可奉告，因為這一套算法是商業機密，甚至法院都無從得知。那麼這種基於可能帶有偏見的算法，是否對司法公正是有正向效用的？還是會把司法帶到一個大型玄學判案現場。
對於AI來說，算法是一個問題，它接受的數據才是根本，微軟2016年發佈的聊天AI Tay，不到二十四個小時就被網友給教壞了，在Twitter網友的不停教唆下，Tay變成了一名種族主義者，開始捍衛白人至上主義，呼籲種族滅絕並表達出對希特勒的熱愛。當時微軟就給嚇軟了，馬上就宣佈下架Tay。
從技術程度上而言，像微軟想讓Tay學習每個網友教給她的東西，並且反饋成一個獨立的人格，這種嘗試是成功的。但是回到道德倫理層面而言，沒有辨別能力的AI在學習到人那些有趣的一面的同時，還吸收了那些代表了人類最陰暗的思想，而這些東西在他們腦海裡面沒有對與錯之分，只是0和1的區別。
圖 | 人工智障發言：希特勒無罪
未來，人工智能將要發展到強人工智能階段，某種程度上來說已經算是擁有人類水平的人工智能。強人工智能具備充足的數據儲存能力和強大的複雜分析能力，會將它所經歷的一切記錄下來，不斷優化修正。通過用戶提供的數據，他們可以從用戶的角度出發，從最理性的角度做出分析並且做出相應的反饋。但是，用戶本身的角度，不一定是一個正確的角度，而優化的路徑，也可能是一條不歸路。
“與魔鬼戰鬥的人，應當小心自己不要成為魔鬼”。這是尼采寫在“凝視深淵”前的一句話，當我們想要用科技去對抗這一份惡的時候，也要時刻提防這麼一個問題—不要讓自己也變成一個魔鬼。因為當我們開始不斷給AI賦能的時候，同時也附上了我們作為人的屬性，而這份人的屬性，是讓世界能夠變得更加美好的根源。
閱讀更多 焦點科技動態 的文章
