人工智能變革的今天，我們如何看待自己的未來？

聽聽未來生命研究所創始人、麻省理工學院物理學終身教授，《生命3.0》、《穿越平行宇宙》作者邁克斯•泰格馬克教授怎麼說：

過去的一段時間中，人工智能的發展非常令人難以置信。幾年之前，我們沒有想象會有自動駕駛的汽車，現在火箭都可以自己進行降落了。

之前人工智能還沒有辦法在圍棋上打敗人類，現在大家也都知道了AlphaGo Zero不僅可以打敗圍棋方面人類最好的選手，同時也在國際象棋上打敗了人類最好的棋手。

實際生活中，AI在商務領域方面已經有了很多實際應用。中國在支付寶、微信支付當中，已經非常領先了。而在醫療方面，有一個研究顯示，AI和人工的醫生來比，它在肺癌、前列腺癌症診斷方面做得更好。

AI取得的這些成就讓我們想到一個問題：到底AI最終的目標在哪，它可以走到哪一步？在所有任務上都能達到人的智能水平嗎？我們把這個稱為AGI（通用人工智能），這個概念可能讓人們認為很多工作我們不用做了，可以通過AGI來完成。

如果我們的確實現了AGI，下一步怎麼樣呢？人會扮演什麼樣的角色呢？

如果機器什麼都能做得好，比我們做得好，比我們的成本還低，那麼人的角色呢？

我現在所推崇的想法，那就是對於AGI，想清楚人類會犯怎樣的錯誤，來保證我們正確行事。

我們都意識到了這是一個全球性的挑戰。

這個挑戰規模很大，並且補救措施必須是全球行動，必須要有全球的協調，沒有哪個國家能夠獨善其身。

中國實際上有著一個獨特的優勢，能夠有這樣一個領導地位，有兩個原因：

原因一：

中國有大量的科學家儲備。

在中國我們不僅僅可以讓AI變得更加強大，同樣還可以讓它變得更加可信賴。

原因二：

中國是世界上最古老的現存文明之一，持續了幾千年。和西方相比，中國有著很多的長期思維的計劃傳統，這是西方世界所缺乏的。

大家也知道，在西方世界非常難去設定一些長期的計劃，持續到下次選舉。

當我還是一個學生的時候，有很多人說要修高鐵，現在20多年了還沒有開工。與此同時，中國已經做完了。

在這方面中國可以扮演一個非常重要的角色，把中國在技術方面的實力和長期規劃的智慧結合起來，希望中國在AI方面採取一個領先者的地位。

我們組織了很多會議，讓很多AI研究員聚集到一起來討論怎麼樣增加AI的智慧。

上一次會議有23個原則，被世界各地的AI研究員簽署。

我在這裡給大家複述其中兩三點。

第一個原則：

我們應該避免武器和軍備競賽，應該把技術應用到可以幫助人們的方面。

比如說生物、化學，更多的應該有助於人們找到一些疾病的治療方法，而不是引起致命的損傷。

我們希望在生物和化學武器方面有一些國際化的禁用，這樣就可以不用擔心生化武器落入恐怖組織手中。

我也非常高興看到中國作為一個大國，在3月時第一次站出來說要反對自動致命性武器的發明。中國做出的這一個努力非常重要。

我們看到中國的影響力變得越來越大，同時也看到了聯合國付出的努力，希望可以使這一切變為可能。

第二個原則：

希望可以通過AI以及自動化創造出來更多的財富，使得所有人都可以從中受益。

我認為我們全球GDP可以通過用機器替代人類的方法進行一個大爆炸，但是如果我們沒有辦法通過這個方法讓人人受益的話，那就是我們的錯誤。

在科技和道德方面，我們希望可以確定的是，能夠讓整個社會變得更加和諧、更加一致、更加團結。

最終，我認為在AI的安全性研究方面，我們需要有更大的投資：

既然我們希望AI可以控制我們更多設備，AI可以對於我們的生命產生更大、更重要的影響，就必須要保證現在計算機系統中不能有那麼多的黑客、Bug。

因為如果黑客能夠隨便黑進來的話，可能使得AI對自己產生非常負面的影響，我們要保證AI的目標和我們的目標是一致的。

這意味著如果我們最終達成了AGI的話，我們會面臨一個很大的風險，如同在好萊塢的一些電影中看到的情況：

AI會變成一個魔鬼一樣的東西，更可怕的是AI的複雜程度非常高，而它的目標與我們完全不同。

黑犀牛這個種族完全滅絕的原因僅僅在於，我們比它們聰明很多，而且我們的目標跟它們也不同。

所以，如果AGI比起我們要智慧很多的話，我們不想讓自己成為黑犀牛這樣的一個角色，我們希望AGI能夠與我們的目標保持一致，將我們的目標作為它們的最終目標進行發展。

我們應該更多的關注最終成果，而不是隻是面對明天、後天的選擇。

如果我們沒有辦法做到這一點，保持一個非常遠大的目標，有可能我們會達到人類歷史上能夠得到的最差的結果。

我們應該更多的著眼於我們整個星球，如何通過技術控制發展方向，最終達到我們最想期待的未來，所有的人都能夠從中受益。不僅僅是好一點，而是好的非常多。

現在我們可以想一下，2018年比起明朝或者說石器時代的時候都變得更好，為什麼？

是因為技術的發展，之所以我非常感謝文明，也是因為用這種智能的方式我們得到了更好的生活。

通過人類、人工智能兩者的結合，我們可以很好的解決現在我們面臨的問題。

總而言之，我們現在所面臨的就是一個選擇，我們可以完全無動於衷，並且不去進行長遠的思考，只是非常盲目地開發，相信所有的技術發展都是對我們有利，不斷地來重複現在我們所做的工作，我們總是相信所有的技術都會讓一切變得更好，根本不去進行技術發展的控制，不去進行任何目標的制定。

或者我們另外一個選擇，我們有非常宏偉的目標，並且不斷地向著這個目標來進行推進，使得人人可以從中受益。

所以，我們希望最終達成的AI不僅僅取代我們，而是使得我們變得更好。

以上內容整理自邁克斯•泰格馬克教授在長江商學院與湛廬文化合作舉辦的第23期“長江大講堂·生命3.0，重新定義AI的未來”上的演講