高層速讀
關鍵數據：超過4,000名谷歌員工簽署了請願書，抗議與五角大樓的一份價值900萬美元的人工智能合同。
關鍵意義：科技行業長期以來一直認為，它正在讓世界變得更美好，不管這個世界是否喜歡它。
Facebook CEO馬克•扎克伯格認為，同為硅谷億萬富翁的埃隆•馬斯克對人工智能的擔憂行為簡直是杞人憂天，這位SpaceX和特斯拉的CEO在電視採訪和社交媒體上多次提醒世界，人工智能“可能比核武器更危險”。
在餐桌上，Facebook的團隊試圖讓馬斯克相信他是錯的，但這並沒有奏效，“我真的相信這是危險的，”馬斯克對在場的人員說。
馬斯克對人工智能恐懼的原因很簡單：如果我們創造出比人類更聰明的機器，他們可能會轉而反對我們。比如電影《終結者》、《黑客帝國》和《2001太空漫遊》。
他對科技行業的其他從業者說，“就讓我們考慮一次，我們所創造的那些意想不到的後果，把它釋放到世界上會帶來怎樣的後果。”
無論是馬斯克還是扎克伯格，都不會詳細談論這頓晚餐，之前沒有報道過，也沒有討論他們長期以來的人工智能辯論。
超級智能——這是一種將人工智能提升到下一個層次的技術突破，它創造的機器不僅能完成通常需要人類智能，如自動駕駛汽車等狹窄任務，而且還能超越人類，就像科幻電影所展示的那樣。
AI威脅密圈討論，超級人工智能必然存在
人工智能領域的重量級人物都在這裡，包括Facebook人工智能實驗室的LeCun——他開發的卷積神經網絡是當今人工智能領域最重要的工具之一；Nick Bostrom也出席了這次活動，他在2014年出版的《超級智能：道路、危險、戰略》一書中，對人工智能產生的影響進行了討論;Oren Etzioni曾是華盛頓大學的計算機科學教授，也在西雅圖艾倫人工智能研究所工作;另一位是DeepMind的負責人Demis Hassabis。
Yann-Lecun
馬斯克也是如此，他在2015年向馬薩諸塞州劍橋市捐贈了1000萬美元，同年，他還幫助創建了一個獨立的人工智能實驗室OpenAI，明確的目標是：用安全措施創造超級智能，以確保它不會失控。
在會議結束的第二天，馬斯克參加了一個專門討論超級智能問題的9人小組，每個小組成員都被問到超級智能是否有可能，當把麥克風遞給他們的時候，每個人的回答都說“是”，直到麥克風傳到了馬斯克那裡。
“不，”他說，小禮堂裡充滿了會心的笑聲，因為每個人都明白，馬斯克認為超級智能不僅是可能的，而且是非常危險的。馬斯克補充說：“我們正走向超級智能或文明的終結。”
在小組討論結束時，馬斯克被問到，社會如何才能最好地與超級智能共存，他說，我們需要的是大腦和機器之間的直接聯繫。幾個月後，他推出了一個名為“Neuralink”的初創企業，旨在
通過將電腦與人腦融合來創造這種所謂的“神經界面”。
當然，關於人工智能風險的警告已經存在了好幾年了，但這些預言家中很少有人擁有馬斯克的技術含量，即便是有，也幾乎沒有人花那麼多時間和金錢在上面。
整個科技行業都在討論人工智能的未來
超過4,000名谷歌員工最近簽署了一份請願書，抗議該公司與五角大樓簽署的一份價值900萬美元的人工智能合同，這筆交易對這家互聯網巨頭來說是一筆“雞飼料”，但對該公司的許多人工智能研究人員來說卻非常令人不安。
上週，試圖阻止員工造反的谷歌高管表示，他們不會在明年合同到期時續簽合同。人工智能研究具有巨大的潛力，無論是作為經濟引擎還是軍事優勢。
中國政府已表示，願意在未來幾年內投入數十億美元，讓中國成為人工智能領域的全球領導者，而五角大樓也正積極向科技企業尋求幫助，預測未來的新型自主武器在不會有太大的距離。
各種各樣的思想家都加入了人工智能威脅的辯論中，從加州中部海岸的哲學家和科學家聚會，到亞馬遜CEO傑夫·貝佐斯在加州棕櫚泉舉辦的年度會議。
“你現在可以談論人工智能的風險，而不像是迷失在了科幻小說中”牛津大學人類研究所負責人阿蘭達福說，該研究中心探討了先進技術的風險和機遇。
在過去的幾個月裡，Facebook和其他科技公司的公開烘烤，已經在很大程度上引發了硅谷創造的技術帶來的不良後果的討論。今年4月，扎克伯格花了兩天時間回答國會議員關於數據隱私問題。以及上個月在歐洲面臨的類似拷問。
Facebook認識到，人們對正在發生事情的反應遲鈍，帶來了一個罕見的自我反省時刻：這個行業長期以來一直認為，它正在讓世界變得更美好，不管這個世界是否喜歡它。
即使是像微軟創始人比爾·蓋茨和已故的斯蒂芬·霍金這樣有影響力的人物，也表達了對創造比我們更聰明的機器的擔憂。
“我們正在創造的這種系統非常強大，”康奈爾大學計算機科學教授、貝爾實驗室前研究員Bart Selman說，“我們無法理解和預料他們的影響。”
閱讀更多 AI商業觀察 的文章
