pocheng 新智元 昨天
新智元推薦
來源：湛廬文化（ID：cheerspublishing）
【新智元導讀】2014年，泰格馬克與斯圖爾特·羅素、史蒂芬·霍金聯合在赫芬頓郵報上發表的《超越我們對超級智能機器的自滿》一文，引發媒體對AI安全報道，泰格馬克背後的未來生命研究所也名聲大噪。未來生命研究所究竟是在什麼樣的情況下誕生的呢？為什麼馬斯克、霍金都加入了科學顧問委員會？本文帶你瞭解未來生命研究所的前世今生。
一場影響人類未來的大會，和一個組織
在2015年第一個星期天的下午，一群人悄然集結參加一場在波多黎各某度假勝地舉辦的閉門會議。這場會議，彙集了牛津大學人工智能倫理學家尼克·博斯特倫、Skype的創始人揚·塔裡安以及Google的AI專家肖恩·萊格。會議有著非常樂觀的主題：“AI的未來：機遇與挑戰並存”，而讓這場大會顯得更加神秘的是，一切媒體記者被禁止參加，同時參會者在參會期間也不能私下公開看法。
波多黎各大會參會者合影
在長達一週的會議即將落幕的傍晚時分，所有人準備走向酒吧，參加隨後的慶祝聚會。而大會的主辦人泰格馬克教授，卻讓大家再留步片刻，“有個大事情要宣佈”。隨後，一個健碩的身影走到臺前，他就是伊隆·馬斯克。燈光下，馬斯克的出現讓臺下爆發一陣騷動。
馬斯克清了清喉嚨，開始宣佈，要將1000萬美元捐贈給這個MIT教授創立僅一年的組織——未來生命研究所（Future of Life Institute的英文縮寫，簡稱FLI）。
未來生命研究所誕生記
馬斯克是在最後幾分鐘才趕到慶典現場。兩天後，SpaceX就要進行一次重要的火箭發射，嘗試在海面平臺回收部分火箭。但他還是堅持趕到了現場，因為他相信，這場大會和這個新誕生的組織，對世界有著非同尋常的意義。
在很多媒體的報道中，經常是這樣描述伊隆·馬斯克——一個堅定的
人工智能威脅論者。起因是他在2014年8月發佈的那條人盡皆知的推特：“我們需要對AI保持謹慎。它們可能比核武器還要危險。”
未來生命研究所作為一家非盈利組織，
鏈接學術界與科技企業界，推動“AI有益運動”的發展
也幾乎是與此同時，一位MIT的教授也在這樣的信念下，推動著自己的計劃。因為馬斯克那條有些“危言聳聽”的推特，兩人的故事發生了交集。幾乎是一拍即合，在他們第一次電話聯絡的時候，馬斯克便同意加入未來生命研究所的科學顧問委員會，並表示願意資助未來生命研究所籌備開篇提到的波多黎各大會。
那這個未來生命研究所究竟是在什麼樣的情況下誕生的呢？成立之後究竟為了推進什麼研究呢？
瘋狂邁克斯
在成立未來生命研究所之前，作為MIT物理學終身教授，泰格馬克已經在平行宇宙方面的研究上成果斐然。他師承約翰·惠勒，與理查德·費曼和基普·索恩師出同門。數理宇宙的假說讓他成為“當今最具原創力的科學家”。
這些年裡，泰格馬克將研究領域擴展到了人工智能。不少人會覺得詫異，一個物理學家，為什麼要“開小差”，跑去研究人工智能？
泰格馬克
一方面，MIT在人工智能領域積澱深厚。雖然人工智能在達特茅斯學院最先提出，但最初實現的卻是麻省理工學院。另一方面，泰格馬克的很多研究都是基於最新的計算機技術，他自己曾開發數據分析工具，用於宇宙微波背景的研究。過去幾年一直與MIT的團隊在AI研究領域耕耘，至今已經發表了5篇AI技術領域的論文，其中一篇是與楊立昆（深度學習領域三巨頭之一）合作發表。
私下裡，他更喜歡大家給他取的外號“瘋狂邁克斯。”在科學家的外衣下，他有著一顆夢想家的心。用他的話說，“從我14歲知道了核軍備競賽以來，我一直擔心我們的技術力量比我們控制它的智慧增長得更快。”這種擔憂一直伴隨著他的學術生涯，並讓他不斷行動起來。也正是這種浪漫主義，讓他和伊隆·馬斯克和斯蒂芬·霍金走到了一起。在他的第一本書《穿越平行宇宙》新書巡迴之旅中，他決心要為這個世界做些什麼。首先，要成立一家非盈利組織，專注於用技術管理來改善未來生命的境況。
未來生命研究所與它的成員們
接下來，泰格馬克開始勾搭自己的朋友。在倫敦，泰格馬克找到了Deepmind的創始人丹尼斯·哈薩比斯。兩個人在聊了一圈AI領域的技術突破與變革後，泰格馬克向哈薩比斯攤牌，包括自己在AI安全研究方面的想法以及未來生命研究所的計劃。哈薩比斯贊同了泰格馬克的想法，並將在研究方面給予支持和幫助。
而另一位朋友揚·塔裡安（Skype創始人）就更實在了，當泰格馬克向他承諾了未來生命研究所的願景後，便決定每年撥給他10萬美元的經費。在一年後的波多黎各大會上，塔裡安半開玩笑的說：這是我做過的最好的一筆投資，這對我來說簡直意味著整個世界。隨後，一批來自高校的志願者加入到了未來生命研究所中。
委員會中涵蓋了AI領域研究者、企業家、科學家乃至哲學家。
詳細介紹可參考https://futureoflife.org/team-chinese/
一方面，未來生命研究所通過資助全球各地的研究團隊，保證AI安全領域研究的推進。另一方面，通過與世界頂級專家、企業家的定期會議與討論，推動AI安全研究的社會共識。而未來生命研究所該機構的科學顧問委員堪稱豪華，包括宇宙學家史蒂芬·霍金、SpaceX 和特斯拉汽車創始人伊隆·馬斯克、牛津大學未來人類研究院主任尼克·博斯特倫、麻省理工數字商業主任埃裡克·布林約爾松、哈佛大學遺傳學教授喬治·丘奇、MIT物理學教授阿蘭·古斯以及劍橋大學、加州伯克利等大學的人工智能方面的著名教授都參與其中。
“AI有益運動”——讓AI安全性研究進入主流
2014年，未來生命研究所打響了自己的第一槍。泰格馬克與斯圖爾特·羅素、史蒂芬·霍金聯合在赫芬頓郵報上發表的《超越我們對超級智能機器的自滿》一文。表達了作者對迅速發展的AI潛在的風險與隱憂。
那篇經常被其他媒體曲解的“原版”文章：
https://www.huffingtonpost.com/stephen-hawking/artificial-intelligence_b_5174265.html
這篇文章引發媒體對AI安全報道的熱潮，伊隆·馬斯克、比爾·蓋茨等科技領袖紛紛加入討論，發表各自的觀點。遺憾的是，很多媒體搞錯了方向，發表《史蒂芬·霍金警告說，機器人的崛起對人類可能造成災難性破壞》這種危言聳聽的文章。
所以真正讓AI安全性研究步入主流的，是2015年1月召開的波多黎各大會。也就是剛剛文章開頭出現的那一幕，這場大會，幾乎所有的參會者都對這個問題產生了共識。
這個時代最聰明的頭腦集合在一起
在這場大會結束後一週，未來生命研究所便推出AI研究資助金申請通道。全世界大約有300個團隊申請，在經過篩選後，37個團隊開始了第一階段的研究。
另外，一封著名的公開信也進入了公眾視野。在這封名為《邁向強大和有益人工智能的優先考量研究方案》的公開信中，強調了“研究不應該只限於擴展AI的能力，而是也需要把AI對社會的效益發揮至最高點”，併為下一階段的研究列出了優先考量的目標。這封公開信很快就收集了8000多個簽名，其中包括許多享譽全球的AI開發者以及伊隆·馬斯克和斯蒂芬·霍金等人。
也是在此時，媒體對“AI有益運動”報道產生了微妙的變化，再也沒有終結者的照片。AI安全性研究終於不再是空談，而是有許多實際有用的工作要做。並且，許多優秀的研究團隊紛紛捲起袖子加入進來。
阿西洛馬大會的合影，也是AI有益運動的“群英譜”，你可以在裡面找到拉里·佩奇、埃裡克•施密特這些企業家，吳恩達、丹米斯·哈薩比斯這樣的技術專家，以及丹尼爾·卡尼曼這樣的來自心理學、經濟學、社會學方面的頂級專家。DeepMind、谷歌、Facebook、蘋果、IBM、微軟和百度等公司的代表悉數到場。
隨後，在2017年阿西洛馬大會上，“AI有益運動”被推向了第一個高潮。
AI有益運動的蓬勃發展
AI有益運動正在蓬勃發展。在企業界，亞馬遜、DeepMind、Facebook、谷歌、IBM和微軟發起了一個“有益AI”的行業夥伴關係。
而在學界，不斷有AI安全領域的研究團隊和機構獲得捐贈，包括加州大學伯克利分校的機器智能研究所、牛津大學的人類未來研究所和劍橋大學的存在風險研究中心。還有一些別的“有益AI”項目也在不斷啟動，包括劍橋大學萊弗休姆智能未來中心、位於匹茲堡的高蓋茨倫理與計算技術基金會以及位於邁阿密的人工智能倫理與管理基金會。AI安全性研究就此成型。
而在企業界，AI有益運動也產生了深遠影響。馬斯克投資上億美元的非盈利研究機構OpenAI, 致力於用開放的方法研究通用AI，為人類帶來福祉。
在政府層面，各國政府和IEEE（世界上最大的技術專家組織）都發表了長篇報告和建議，除此之外還有幾十份報告和意見書。
泰格馬克還動筆寫起了一本書，這本書於近日出版，名為《生命3.0》（Life 3.0: Being Human in an Age of Artificial Intelligence）。因為寫過像多重宇宙這類高度理論化的深奧概念，對於有根據但仍充滿想象的觀點，泰格馬克可謂遊刃有餘。
《生命3.0》英文版一經出版迅速登頂美國亞馬遜科技類圖書排行榜榜首，受到伊隆·馬斯克、斯蒂芬·霍金、雷·庫茲韋爾等人的推薦。更為難得的是，這本書同時受到《科學》 《自然》兩大權威學術期刊推薦。
作者泰格馬克先以全景視角，展現了關於這一問題的討論與爭議，並探討了近未來人工智能對法律、戰爭、就業和社會帶來的影響。然而泰格馬克的野心不止於此，他將目光投向了這場變更最為深遠之處：人工智能是否能擁有意識？一萬年之後我們能否與人工智能實現共生與繁榮？宇宙生命發展最終的物理極限法則為何？更為重要的是，我們如何在這場變革中迎來繁榮，同時又不會陷入危機，喪失生而為人的意義？
作者用生命3.0的概念傳達了這一觀點：人工智能將完成人類的最終進化。對於我們來說，又要以怎樣的思考和行動來應對？
這本書將是你人工智能時代的思考利器，歡迎加入這個時代最重要的對話。
泰格馬克的官方網站：http://space.mit.edu/home/tegmark/
未來生命研究所：https://futureoflife.org
泰格馬克採訪馬斯克（視頻）：https://www.youtube.com/watch?v=rBw0eoZTY-g
閱讀更多 新智元 的文章
