算法“黑箱”那點事
一、“黑箱”算法和算法暴政
人工智能的黑箱也稱作“算法暴政”。是指由於機器學習神經網絡中存在隱層，科學家無法說明機器學習的優化結果出自哪個節點，並做出令人信服的解釋的情形。
科學家甚至發現：機器神經網絡和大腦一樣偶爾也會出錯，卻無法解釋出錯的原因。黑箱或所謂黑屋子是由算法形成的，但是目前科學家卻不能從算法去解決。
技術上的解決方案亟待人們對隱層有了更多的瞭解之後，方有可能揭秘。
就當下看，算法無法公開給社會。算法中的隱層作為一種現象，它和人工智能技術將共存一段時間。
“黑箱”從字面上理解是指技術問題，實際也隱喻了人工智能技術在社會層面的不透明性。正因為它技術和社會兩方面的交集，在人工智能技術走向普及和通用化的過程中它將扮演關鍵角色。
二、英國議會對“黑箱”算法如是說
本月16日，英國議會下屬人工智能特別委員會在題為《英國人工智能發展的計劃、能力與志向》的長篇報告中，專門論述了“黑盒”算法問題。基於報告關於算法黑箱的原則性傾向，現在我把它概括為以下幾點：
1、人類的普遍利益在於實現可理解、可信賴的人工智能。因而算法黑箱是目前需要面對的緊要問題。
2、增加系統的透明度，甚至開放人工智能系統的源代碼，可以大大減少社會焦慮。至少應該保持事後透明，以避免錯誤事件再次發生，這是底線。
3、建立可解釋的人工智能系統以替代目前存在黑箱的神經網絡系統，並且應該推遲將現有的黑箱算法用於特定重大領域。
4、在安全攸關的特定場景中，為確保技術透明性，甚至可以犧牲系統的能力和準確性。
出於人類安全的考慮，這些穩健措施顯然有利於避免少數人的盲目冒進。
如果預後要進一步進行算法系統透明性的立法，那麼這些原則性的闡釋作為指導思想和基本框架，是具有一定的借鑑意義的。
算法暴政比算法黑箱更可怕
其實，算法暴政比算法黑箱具有更廣泛的含義。過去人們沒有清算它，對人工智能接觸的加深會使人們逐步考慮到以下這些方面：
1、人工智能在阻止人們進行簡單的重複勞動的同時，在它內部運行的算法機制，本身卻是重複運作的；它以算法的簡單重複取代人類勞動的重複性，把它轉化成了人工智能的壟斷性的特權。這一點它違揹人性，顯然對人類不公，造成社會內部的分化。
如果任其發展，不加以法治干預的話，它甚至將侵犯人的生存權。機器人會在意人的死活嗎？——不會。除非發展到通用技術以後，人工智能能主動思考這些問題，從而變得友好。
2、從此前的Facebook事件看，一些人為利用算法挖掘數據，蓄意在人們不知情的情況下，入侵大眾的隱私信息。這可能造成社會大規模的不適，釀成信任危機。
3、機器人參與競選活動或機器人干預貞治。
1955年阿西莫夫在短篇小說《特權》中，描述了一部超級機器莫迪維克，可以為競選代勞。
AI算法技術在社交媒體、數據挖掘、數碼監視、預測搜尋方面，在CA公司、Facebook和特朗普競選的事件中，其所作所為似乎使西方脆弱的明珠制度反而變得更加動搖。
實際上，它正促使公眾權力向技術力量轉移，通過其算法系統，實現技術性的剁權。這無疑使算法黑箱的迷霧進一步向權力領域瀰漫、擴散。
4、AI算法商業化的運作模式，猶如撒開的一張大漁網，正在打擊和窒息社會中的其他生存要素，使社會進一步和AI算法捆綁在一起。
現在和未來世界上最有力量的大公司，都無一例外活躍於人工智能領域。
人工智能裹挾了一些周邊的技術，如區塊鏈、量子計算、納米科技、基因工程技術、AR和VR等，巨大的商業能量使得傳統的社會力量、社團、倫理相形見絀。
如果長期如此，社會將為此發生深刻的變化，這並不是杞人憂天。
5、當算法用以自主武器，普通百姓可能遭受滅絕性屠戮。
根據英國政府的區分，實施人工干預和定製攻擊目標的，如普通的殺手機器人，是自動化武器。
完全的自主武器，則是指在沒有人類干預或制定攻擊目標的情況下，機器人自主確定攻擊目標並發動攻擊。有鑑於自主武器的反人類性質，現今世界上已有22個國家禁止完全自主武器。
英國之所以禁止本國發展完全的自主武器，因為考慮到它會改變未來戰爭的性質：使人類內部的戰爭演變成人和機器的戰爭。
公眾當知，人和人的戰爭受到國內法和國際法的限制；而人和機器人的戰爭現今沒有任何法律依據可循，一旦成真，那勢必演變成沒有邊界的技術之戰。
如果不加約束，未來在超人工智能時代，這種危險給人類帶來的災難性後果愈加巨大、不堪設想，恐怕比歷史上任何的暴政統治有過之無不及。
概言之，算法暴政直接威脅人類社會的經濟民主和科技民主 。所以，有人認為，對政治明珠來說，這不是最好的時代；“對那些為政客們服務的人工智能專家來說，這卻是最好的時代。”
只有大家充分認識到算法暴政潛在的危險，公眾才會考慮如何應對算法暴政可能造成的社會危害。
閱讀更多 漢文悍武 的文章
