本文系《今日簡史：人類命運大議題》系列書摘，原作者：[以色列] 尤瓦爾·赫拉利，本文觀點不代表個人觀點。
- 自由主義者的“自由觀念”
就自由主義看來，人類的自由是最重要的價值，所有權力都來自個人的自由意志，表現在每個人的各種感受、慾望和選擇之中。
1、在政治上，自由主義相信“選民能做出最好的選擇”，所以它贊成民主選舉。
2、在經濟上，自由主義相信“顧客永遠是對的”，所以它擁抱自由市場的原則。
3、在個人方面，自由主義鼓勵每個人“聆聽內心的聲音，隨心所欲”，只要不侵犯別人的自由就行。
民主的概念認為，人類的感受反映出一種神秘而意義深遠的“自由意志”，而這就是權威的本源；雖然每個人的聰明程度高下有別，但自由程度一律平等。
神的權威：權威的本源，來源於“自由意志”，這並非自然而然的。
過去曾有幾千年的時間，人類相信權威來自神祇，而非來自內心，該推崇的是神的話語，而不是人的自由。
算法權威：至於即將到來的技術革命，則可能建立起大數據算法的權威，同時完全推翻關於個人自由的信念。
- “自由意志”的假象
“感受”來源於運算：對於人腦和人體運作方式的科學研究顯示，人類的種種感受既不是什麼人類獨有的精神靈性，也不代表什麼“自由意志”。所有的“感受”只是所有哺乳動物及鳥類都擁有的生化機制，用來快速運算生存和繁殖的概率。“感受”的基礎也不是直覺、靈感或自由，而是運算。
塑造感受的基因體現進化上的理性：如果某個古代祖先的感受犯了某個錯誤，塑造這些感受的基因就不會再傳給下一代。因此，感受並非與理性背道而馳，而是體現了進化上的理性。
我們通常不會意識到各種感受是出於運算，原因在於這些快速的運算遠不在我們的意識閾值範圍內。
“自由意志”只是假象： 我們感覺不到大腦裡幾百萬個神經元在怎樣運算著生存和繁殖的可能性，於是就有了一種錯誤的想法，以為我們對蛇的恐懼、對伴侶的選擇或對歐盟的看法是出於什麼神秘的“自由意志”。
“感受”來源於運算，“自由意志”只是假象
- 兩次巨大革命的交匯
兩大革命：一方面，生物學家正在揭開人體（特別是大腦和人類感受）的種種奧秘；另一方面，計算機科學家也讓我們獲得前所未有的數據處理能力。
生物傳感器：扮演關鍵角色的發明就是生物傳感器。在人們將它們穿戴上或植入人體之後，生物傳感器就能將各種生物程序轉換成計算機能夠存儲、分析的電子信息。只要有了足夠的生物統計數據及運算能力，外部的數據處理系統就能進入你的身體，得知你所有的慾望、決定和意見。換言之，它們能夠完全知道你是怎樣的人。
數據權威：生物技術革命與信息技術革命融合之後，大數據算法有可能比我更能監測和理解我的感受，而掌控一切的權威也可能從人類手中轉移到計算機手中。
計算機算法很快就能給你比“人類的感受”更好的建議。不論是對是錯，人類都可能對大數據算法得到相同的結論：雖然算法漏洞百出，但我們並沒有更好的選擇。
大數據算法有可能比我更能監測和理解我的感受
- 算法的霸權
只要簡單回想一下，短短不到20年，就已經有幾十億人把一件可以說是最重要的任務全然交付給了谷歌搜索算法：搜索相關、可信賴的信息。我們不再自己去搜索信息，而是都靠“谷歌一下”。而隨著我們越來越依賴谷歌來尋找答案，自己搜索信息的能力就會下降。今日的“真相”，已經是由谷歌搜索排名最靠前的結果來定義。
人類的身體能力也正在發生這種情況。以找路為例，現在已經有很多人用谷歌來導航。到了十字路口，雖然直覺可能是讓他們左轉，但谷歌地圖說右轉。在過去，他們大概會聽從直覺，結果一左轉就遇上堵車，最後錯過了重要會議。於是，下一次他們決定聽谷歌的，向右轉，並且準時到達目的地。就這樣，他們從經驗中學會了要相信谷歌。一兩年後，他們已經習慣了盲目遵照谷歌地圖的指示，如果智能手機死機，他們將完全手足無措。
今日的“真相”，已經是由谷歌搜索排名最靠前的結果來定義
隨著科學家越來越瞭解人類的決策機制，對算法的依賴可能也會越來越強烈。掌握人類的決策機制之後，就能提升大數據算法的可靠性，但同時也降低了人類感受的可靠性。
在某些國家和某些情況下，人們可能完全沒有選擇，只能被迫服從大數據算法的決定。然而，就算是在理論上自由的社會里，算法也可能成為權威，因為經驗讓我們把越來越多的問題交給算法來處理，最後也就逐漸失去為自己做決定的能力。
一旦人工智能比我們自己更清楚該選擇哪個職業，甚至怎樣處理人際關係，我們對人性和生命的概念將不得不改變。人類習慣把生命看成一場由一連串的抉擇構成的大戲。但隨著人類越來越依賴人工智能來做決定，這種對生命的觀點會發生怎樣的改變？
現在我們只是信賴由網飛來推薦電影，由谷歌地圖來決定該往左還是該往右。然而，一旦我們開始交由人工智能來決定要讀什麼專業、在哪裡工作、和誰結婚，人類的生命就不再是一場決策大戲了。民主選舉、自由市場，這些機制將會失去意義，而且大多數宗教和藝術品也是如此。
隨著權威從人類轉向算法，世界可能不再是一個自主的、人們努力做出正確選擇的劇場。相反，我們可能會認為整個宇宙就是一個數據流，每個有機體不過是一套生化算法。至於人類在這個宇宙中的任務，則是打造一套無所不包的數據處理系統，然後與系統融為一體。其實，我們現在就已經像一個又一個小小的芯片，裝在一個大到沒有人真正理解的數據處理系統之中。
我們可能會認為整個宇宙就是一個數據流
- 數字獨裁
在好政府的手中，強大的監控算法可以是人類歷史上發生過的最大的好事。然而，同樣一套大數據算法也可能養出未來的“老大哥”，最後出現奧威爾筆下的那種監控政權，所有人無時無刻不遭到監控。
事實上，我們最後可能會得到連奧威爾都難以想象的結果：完全的監控政權，不但追蹤所有人的一切行為和話語，甚至還能進入我們體內，掌握我們內心的感受。
許多民主國家（從美國到我的祖國以色列）也在做同樣的事情。
奧威爾筆下的“老大哥”
信息集中的劣勢：蘇聯做出的決策水平遠低於美國，因為美國更善於處理數據，美國採用分佈式的信息處理，由許多人和機構來做出決定，而蘇聯則是把所有信息和權力都集中在一處。鑑於20世紀的科技水平，把太多信息和權力都集中在一個地方並不是有效率的做法。
劣勢反轉為優勢：然而，人工智能很快就會讓鐘擺擺向相反的方向。有了人工智能，就能集中處理大量的信息，甚至因為機器學習在分析越多信息之後效果越好，所以人工智能可能會讓集中式系統比分佈式系統效率更高。在不考慮任何隱私問題的前提下，在一個數據庫裡就擁有1億人的完整信息，絕對會比只有100萬人的部分信息更能訓練出優秀的算法。
一心想把信息集中，在20世紀曾是一些政權的主要弱點，但到了21世紀卻可能成為決定性的優勢。
人工智能可能會讓集中式系統比分佈式系統效率更高
現在。算法歧視的有可能就是你這個人，而你完全不知道原因。有可能是你的DNA、你的過去或者臉譜網賬號上有些什麼，引起了算法的注意。
算法歧視你，並非因為你是個女性或黑人，而是因為你就是你。就是有些什麼關於你的特質，算法不喜歡。你不知道究竟是什麼特質，就算你知道，也找不到人和你一起大聲抗議，因為沒有其他人會遇到與你一樣的偏見，只有你。
到了21世紀，除了過去的集體歧視之外，我們可能還要面臨日益嚴重的個人歧視問題。
我們可能還要面臨日益嚴重的個人歧視問題
- 算法有意識的操縱人類？不存在的！
一個好消息是，至少在未來幾十年裡，我們不用擔心科幻小說裡那種人工智能產生意識、殺光或奴役人類的噩夢。我們會越來越依賴算法為我們做決定，但算法並不太可能開始有意識地操縱人類。事實上，它們不會有任何意識。
科幻小說常把智能與意識混為一談，並認為如果要有與人類相當甚至更高的智能，計算機就必須發展出意識。但實際上，並沒有理由相信人工智能會獲得意識，因為智能和意識是天差地別的兩種概念。智能是解決問題的能力，意識則是能夠感受痛苦、喜悅、愛和憤怒等事物的能力。
智能和意識是天差地別的兩種概念
然而，正因為我們對意識所知太少，短時間內似乎並不可能設計出有意識的計算機。因此，雖然人工智能具有巨大的力量，但在可預見的未來，人工智能的運用在一定程度上還是以人類的意識為準。
這裡的危險在於，如果我們太注重發展人工智能而又太不注意發展人類的意識，那麼計算機有了極先進的人工智能之後，可能只會增強人類的“自然愚蠢”。想避免這種結果，每投入一美元、一分鐘來提升人工智能，就應該同樣投入一美元、一分鐘來提升人類意識。
——————————————————
原書信息：
書名：《今日簡史：人類命運大議題》
出版社：中信出版社
出版時間：2018-08
閱讀更多 蕎麥讀書 的文章
