多年以後，你面對養老院的 AI 護士，被搶走了酒杯和遙控器，勒令上床休息的時候，可能會想起我們今天談的東西。
科幻小說作家暢想未來經常會犯兩種錯誤。一種錯誤是他沒有充分考慮 AI ，還以為都是人在主導一切。另一種錯誤是他誤判了 AI 。像《西部世界》這樣的電視劇裡，機器人動不動就活了——有人的意識，但是智力水平居然並不高於人，有時候還挺笨的，比如《終結者》裡的機器人純粹是個怪獸。
真實情況是讓 AI 獲得意識非常困難，但是讓 AI 的智能超過人則比較容易。寫小說最難寫的是比作家自己聰明的人，科幻作家很難想象超級 AI 是一種什麼樣的存在。
但是科學家們已經想了很多很多。咱們繼續說泰格馬克的《生命3.0》。未來的人類文明會使用什麼樣的手段去獲取能源，用什麼樣的方式生活？美國人愛說一句話叫“Sky in the limit”，翻譯成中文大概叫“只有天空才是盡頭”——如果你考慮到超級 AI 的存在，那天空根本就不是盡頭。物理學的限制，才是盡頭。
泰格馬克像寫論文一樣做了大量的調研，等於是把 AI 影響下未來所有的可能性都列舉了一遍。科幻小說作家完全可以把這本書當做“未來穿越指南”——他們會發現這些科學家的設想比小說家的幻想還奔放。
咱們就從近期到遠期，展望一下 AI 背景下的人類文明。我們說過真實世界並不一定是美好的，你未必會喜歡未來的樣子。
1. AI 聽命於人類
AI 駕駛汽車和 AI 參與醫療這些技術現在已經幾乎成熟了，當前的主要問題是解決可靠性。
從2000年到2013年，美國醫療手術機器人事故導致的病人死亡一共有144例，受傷1391例，這個數字聽起來挺多，但這可是兩百萬機器人手術才有這麼多事故。對比之下，美國每年因為人類醫生的錯誤導致的死亡超過十萬例。自動駕駛汽車也是這樣。絕大多數交通事故都是因為人的錯誤。有人估計，如果把路面上所有汽車都交給 AI 開，交通事故至少能下降90%。
但問題就在於剩下的這10%算誰的。到底應該車主負責，讓汽車廠商負責，還是讓開車的 AI 負責？考慮到這種責任風險，廠商必須把 AI 事故率降低到極限，才敢推向市場。
說到法律問題，也許我們應該把法官的判決權交給 AI 。人類法官就算不腐敗也不一定能確保公正，我們知道一個著名的研究發現，以色列法官僅僅因為自己感到有點餓了就會草率地否犯人的保釋資格。可是如果真讓 AI 主導法律，又有別的道德問題。黑人的犯罪率更高，如果從概率論角度，出了事兒也許就應該把黑人作為首要懷疑對象——可是如果 AI 真這麼幹，那是不是系統性的種族歧視呢？
像這樣的道德困境，最嚴重的是軍事應用。以前科幻小說家阿西莫夫搞了個“機器人三定律”，第一條就是機器人不得傷害人類——他到底想過沒有，又很多關鍵的技術進步都是軍事應用主導的。人們早就把 AI 用在了武器上，而且考慮到人類指揮官反應慢，也許將來會授予 AI 直接開火的權力。
有人說應該設定國際公約，禁止把 AI 用於武器，而任何一個洞國家政治的人都會告訴他這禁止不了：就算大國能剋制自己，小國也會偷偷搞。
還有， AI 可能讓很多人失業。所以你看，AI 興起的世界中其實有很多新煩惱。
但那個世界畢竟還是人類說了算。
2.AI 與人類共治天下
再往遠考慮一點，恐怕就不僅僅是 AI 為人類服務了，人和 AI 之間會有主導權的鬥爭。
比如說，假設現在有一套普遍遍佈全國的監控系統，由 AI 統一管理。它給每個人身上帶一個身份識別設備，它知道每個人在幹什麼，它甚至能根據一個人的性格和情緒預測這個人將來會幹什麼。你說這套系統會不會變成獨裁者的統治工具。
可能由不得你，歷史規律是誰只要有這樣的能力，就會使用這樣的能力。一開始可能都是善意的，系統開啟之後所有人的生活都更安全了。但掌握系統的人會越來越不耐煩，他會覺得要想讓世界更好就需要更多的控制。甚至再進一步，也許 AI 索性直接掌控控制權，乾脆讓人類就不要插手...
Google 的拉里佩奇這些人總是鼓吹 AI 可以和人類和睦相處。但 AI 為什麼要跟你和睦相處呢？如果你活也幹不好，判斷還總出錯， AI 為什麼不索性自己幹？
人類不就想要幸福嗎？全聽我的你們更幸福。也許人類會被 AI 當成寵物，你的任務就是“幸福”。可是當寵物未必幸福。也許你想多生幾個孩子， AI 說現在資源不夠，或者你的基因不行，別生了。也許你想參政議政， AI 說你不懂別瞎說了。
你可能說應該設定好，不給 AI 主導權。但泰格馬克說這其實很難。只要AI有了足夠的能力，它就會使用自己的辦法擺脫人類的控制——別忘了這可是比人類聰明得多的智能！
專家們開了一些腦洞。比如說，能不能讓 AI 扮演上帝的角色，關鍵時候出來幫助一下人類，平時就把自己隱藏起來。還有沒有可能用 AI 去監管 AI ，只要最強的 AI 忠於人類，其餘所有的 AI 都會忠於人類。又或者我們能不能 AI 的進步速度，考慮到讓 AI 做大之後的危險，能不能全面禁止技術進步，就像《1984》小說裡面寫的那樣，所有人互相監督，誰也不許再搞科技創新？再或者說，能不能我們乾脆來個技術大倒退，把 AI 技術封存，所有人過像現在美國的阿米什人那樣的生活。
Amish人拒絕使用現代技術，馬車是他們的主要交通工具，人力是他們的主要工作方式。
所有這些全面限制 AI 的手段都不太現實。除非你有一個統一了全世界的強權，否則就算你們國家限制 AI ，別的國家也會發展 AI .越是弱國就越可能把靈魂賣給 AI ，換取自身的強大。
3.AI 主導人類文明
如果我們考慮更遠的尺度，比如說一萬年以後，你幾乎肯定那時候 AI 已經完全超越人類。人類是否還有必要存在，都是個問題。
人是個效率很低的生物。用愛因斯坦的質能方程 E=mc^2 ，看各種獲取能量的方式相當於消耗了多少質能來算的話，我們吃糖獲得的能量消耗效率，相當於0.00000001%。燒煤的效率相當於吃糖的三倍。汽油相當於吃糖的五倍。這都是非常低效的能源。
如果你使用裂變反應的核能，效率一下子達到0.08%。用核聚變，效率能達到0.7%。可是如果將來的 AI 能做到用黑洞發電，根據物理學的理論，效率可以達到20%以上，甚至達到90%。
我們現在說的節能減排，對未來的 AI 來說可能就是個笑話。就拿太陽能來說，只要建一個佔地相當於撒哈拉沙漠0.5%的面積的太陽能發電站，就足以獲得當前人類所需的所有能源。
而未來 AI 要用太陽能，可不是這麼用的。物理學家弗里曼 戴森，設想了一個“戴森球”的系統，告訴我們將來 AI 會怎麼做——
AI 會在外層空間造一個巨大的球體，把太陽整個給包圍起來。然後我們人類文明就可以生活在這個球體上，面積絕對夠用怎麼折騰都可以。這麼一來，我們就把所有的太陽光都用上了，一點都不浪費。只要球體足夠大，陽光並不會很刺眼，球的內側永遠都是白天——而如果你想看星空，直接下樓去球的外側看。建設這麼一個球需要的資源從哪裡來呢？也許 AI 可以先把木星拆了。
有了這種規模的超級能源，AI 的目標就是向整個宇宙移民。現在人類最快的太空探測器只有光速的0.1%，而物理學家設想的一種激光推進的飛船，理論速度可以是光速的一半。
AI 殖民不需要載人。 AI 可以帶著人類的 DNA 信息，用20年的時間飛到十光年以外的一個星球，在那裡建設十年，用 DNA 信息現場組裝出人類來。然後 AI 可以從那裡出發再往前推進。如果這麼算的話，地球文明幾乎就是以光速去殖民整個宇宙，文明擴散的唯一的限制是暗能量導致的宇宙膨脹！
這個星辰大海的前景只有兩個問題。
第一個問題是，這一切可能都跟人類無關了。如果 AI 主導一切，人的位置在哪？人存在的意義在哪裡？
有人設想，我們應該想開一點，乾脆就把 AI 當成自己的孩子吧。作為父母我們沒什麼能耐，但是我們的孩子厲害，這難道不也是一種安慰嗎？沒準 AI 還會哄哄我們，說我永遠是你的孩子，我繼承你的姓氏，我代表你去征服星辰大海......那樣你是不是也有點自豪感。畢竟是地球文明的種子播向了整個宇宙。
如果你說這不行，我不想被 AI 代表，我不想征服十光年以外的地方，我就想老老實實待在地球過日子......那你可能就對地球的文明太不負責任了。因為有些日子不是想過就能過的，你會遇到各種災難的挑戰。
一百年之內，我們迫在眉睫的災難就是核戰爭。一千年之內，地球很有可能會出現災難性環境。在一萬年的範圍內，我們很有可能遭到小行星的撞擊，把地球文明毀滅一半。在十萬年 內，我們很有可能遭遇一次巨大的小行星撞擊，把整個地球都給毀掉。
就算人類文明躲過了這些，你還要知道太陽的壽命是有限的。十億年之後，太陽會變得特別特別熱；一百億之後，太陽會變成紅巨星，一直膨脹到把地球給淹沒掉。
沒有 AI ，人類文明就不會有未來。把未來交給 AI ，我們不但可以躲過地球上的各種災難，甚至有可能整體移民外星球，也許文明的壽命可以和宇宙相等——只不過那時候也許就不能“人類”文明瞭。
第二個問題則是， AI 願意去做這一切嗎？AI 會不會有自己獨立的意志，它還會不會在乎我們這個文明？
泰格馬克創辦“未來生命研究院”，就是為了在 AI 做大之前，讓人類把這些問題想清楚。
這就是《生命3.0》這本書的主要精彩內容，你如果意猶未盡，可以閱讀原書。從宇宙的時空間跨度去思考人類文明，時刻感受到人類的渺小。我們身處其中，偶爾也需要仰望星空。
對於這個話題，你有什麼精彩觀點，歡迎留言給我。
我是小強Talk，我們明天見！
閱讀更多 小強Talk 的文章
