埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

導讀:“當你的念頭一閃而過,電視機或車庫門就打開了”。這不是異想天開,這是SpaceX、特斯拉汽車及PayPal三家公司的創始人埃隆 · 馬斯克的最新提法。他和霍金都在預警人工智能對人類的極大威脅,馬斯克還把AI發展喻為“召喚惡魔”。但神奇的是,他居然宣稱對此有了對應措施:先把人腦與人工智能融合。還說幹就幹,成立了新公司Neuralink。


本文由廣州大學R立方研究所所長、中山大學人機互聯實驗室主任、哲學教授翟振明撰寫,他要告訴我們的正是馬斯克這種想法,是“最危險的念頭”。翟教授為什麼要堅決抵制這種想法?為什麼認為馬斯克的”腦機融合”會對人類造成威脅?請閱讀全文,詳細瞭解。


“一旦大家腦部被插,無論是在VR還是AI領域的人乾的,可能結果就是人類文明的終結。”這可不是危言聳聽。


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?


馬斯克的腦機融合是最危險的念頭


馬斯克和霍金都在預警人工智能對人類的極大威脅,馬斯克還宣稱有了應對措施:先把人腦與人工智能融合。他還說幹就幹,成立了新公司。


但我的預警卻是:馬斯克要做的事對人類的威脅,比人工智能的威脅要大得多。


致命的問題


埃隆·馬斯克(Elon Musk)成立的新公司Neuralink要把人腦與計算機直接融合。馬斯克宣稱,人類社會即將全面進入人工智能時代,為了避免被新物種——超人工智能威脅甚至消滅,人們唯一的出路就是將自己的大腦與AI融為一體。


無獨有偶,我最近在很多場合做演講談到VR(虛擬現實)的未來發展,期望頭盔越來越小越來越輕變成一般眼鏡的樣子,就經常有業界人士接茬說,以後哪裡需要眼鏡,接到腦中樞就是了。


馬斯克希望“腦機界面”能進行人類意識的實時翻譯並將之轉化為可輸出的電子信號,從而可以連接並控制各種外部設備,用他的話說就是“當你的念頭一閃而過時,電視機或車庫門便自動打開了”。初一看,這裡說的是人腦控制信號的輸出,但是所有的控制都需要信號的反饋,也就是說,在設計輸出的接口時同時還要設計輸入的迴路,才能實施控制。



埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

但是,無論是馬斯克之流的AI腦機接口派還是VR領域的直接輸入派,都沒回答過這樣一個致命的問題:“你們知道如何防止人類的自我意識被徹底抹除嗎?”


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

信息與信號的分離或混淆


我們的自然感官,主要是讓我們接受認知性的信息,而不是讓外來的控制信號隨便侵入,這就為保護和維持我們每個個體的主體地位打下了基礎。有鑑於此,我們必須要堅持如下三條初始狀態的“非對稱原則”:


1. 從客體到主體這個方向,信息越通暢越好,控制信號阻滯度越高越好。


2. 從主體到客體這個方向,控制信號越暢通越好,信息密封度越高越好。


3. 以上兩條的鬆動調節,以最嚴苛的程序保證以各個主體為主導。


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

那麼,如果現在放開搞“腦機連接”,危險在哪裡呢?對照以上原則,我們可以歸納出以下幾方面的可能風險。


其一,由於現今人類對自己的大腦與自我意識的關聯的認識還非常有限,也對認知性智能與自由意志之間的關聯的認識基本為零,在這樣無知的前提下貿然實施大腦直接干涉,很有可能將人類的自我意識(或曰“靈魂”)嚴重破壞甚至徹底抹除。


其二,就算沒有抹除,在作為認知材料的“信息”和控制人的行為的“信號”之間不能做到基本分離的社會和技術條件下,有了繞過人的自然感官直接刺激腦中樞的技術手段,將給一部分人控制另一部分人提供極大的方便,對人的自由和尊嚴構成嚴重的外來威脅。


其三,當人們還沒達成法律共識將腦機接口的信息和信號的流向設置權完全賦予同一主體之前,

一個人由於可能直接被外來意識控制所帶來的損失,比他可以直接控制外部設備所帶來的方便,或許要大得多。


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?


以上幾條不同層面的風險,哪一條都足以構成我們聯合抵制馬斯克等人的“腦機融合”項目的充足理由。


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

被誇大的人工智能的威脅



如果我們用現在的馮諾依曼機或圖靈機想要造人能不能造出來?很多人認為這是有可能的,其實不可能。要是可能,造出來“他”就有自我意識的,這時“他”就要維權,下圍棋還可以假裝輸了,諸如此類。最重要問題的不是它輸,而是它能贏卻假裝輸一盤。但這不是馮諾依曼機能勝任的了。“假裝”其實是個很好的指標,看它是真的有自我意識還是沒有。沒有自我意識的話,就沒有情感意識或權利意識。自由意識和情感是人的真正特色。


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

馬斯克在哲學界有個同道,這就是尼克·博斯特姆(Nick Bostrom)教授。他相信無論只有智能的AI還是具有自主意識的AI,都完全是由計算來實現的。由此他還做出了一個逆天的判斷:我們人類的意識,在接近100%的概率上,不是真實存在的意識,而是被計算機模擬出來的“假意識”。但是,第三人稱世界的對象可以分真假,第一人稱世界中的意識何以分真假?博斯特姆基於自然主義的計算主義使他陷入到虛妄的境地之中。更為嚴重的是,大企業家馬斯克之流也循著這個思路前行的話,就會徹底忽略“腦機連接”項目最致命的危險。



埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

筆者經過多年的獨立研究,加上近來與美國量子物理學家亨利·斯塔普(Henry Stapp)的討論,筆者已經得出結論,物理主義和計算主義對人類意識的解釋是誤入歧途的,因為這些解釋者都不可避免地陷入了“整一性投射謬誤”(Fallacy of Unity Projection)之中不可自拔(見《哲學研究》2015年第6期筆者發表的論文)。


筆者得出的結論是,以計算機模仿神經元網絡的方式造出來的人工智能不可能具有真正的自我意識,只有按照某種非定域原理(比如量子力學)建造出來的人工系統,才有可能具有第一人稱視角的主觀世界和自由意志。所以,除非有人以確鑿的證據向我們證明如何按照非定域原理把精神意識引入某個人工系統,不管該系統的可觀察行為與人類行為多麼相似,我們都不能認為該系統真的具有了精神意識,該系統都還是屬於工具性的“弱人工智能”,而不是具有自我意識的“強人工智能”。本人與斯塔普的研究表明,這樣的學習過程,從頭到尾都沒有任何機會讓“自我意識”湧現。



埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

以馬斯克為代表的一部分人擔憂,如果懷有惡意的個人/組織/集團/政府率先掌握了超人工智能技術並用其實現自己的邪惡計劃,那麼人類的處境將會變得岌岌可危。但是,這類危機來源圍繞的仍舊是人的動機,關涉的依然是人與人之間的操縱與被操縱的“政治”問題,而無關乎人工智能是否具有“征服”的意圖。


只要不脫離人際間的關係,看似由人工智能所導致的控制危機實質上就仍然屬於人類自古以來一直都在面對的統治與被統治的話題。這與黑幕後的政客或極端恐怖分子掌握大規模殺傷性武器本質上是一樣的,也與我們造了大壩卻對其後果難以預測和把控的情況相差無幾。


所以,人工智能這項新型技術可能會對我們過往經驗構成嚴峻挑戰,但並不會產生完全不同類型的新問題。也就是說,人們擔心的“智能爆炸”所引發的後果並不是一個新難題,而是一系列老問題的疊加。


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

對於人工智能技術的焦慮還來自另一類認為它將取代人類勞動力,從而造成大量人類失業的威脅。這類憂慮,實則是對人類內在價值的誤讀。其實,“不勞而獲”只是在有人“勞”另有人“獲”時才是壞事,而使得所有人都可以“不勞而獲”,正是所有技術進步的應有目的。


人類謀生所需的體力勞動和腦力勞動被機器替代是必然的趨勢,而這正是我們所有經濟發展技術創新所謀求的主要目標。由此看來,人工智能取代人類勞動,我們應該拍手叫好才是。只要我們的分配製度與人類勞作的關係理順了,人類並不會因為失業就喪失了生活的意義,反而這讓人們有更多的機會去使其內在價值大放異彩,直接謀取生活的意義。



埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

那麼,如果基於量子力學我們真的製造出了具有自我主體意識的強人工智能呢?這時我們就要徹底轉變思路了,此時有意識和情感的人工智能也具有與人類對等的人格結構,在社會地位與權利尊嚴等方面應與人類一致。拿它們去買賣,相當於法律上的販賣人口。進一步地,我們必須將它們看成是我們的後代,與我們在實驗室培育試管嬰兒並無本質上的差別。自古以來,我們都希望自己的後代超越自己啊,“強人工智能”比我們強,我們慶賀都來不及,還焦慮什麼呢?


我們現在電腦不管多強大,只是造工具,不會造人,大家放心了。以前的機器只是把我們從體力勞動中解放出來,現在的人工智能把我們從腦力勞動中解放出來。這是很好的事情啊!人工智,它不會征服我們的,它沒有意志,但使用它的人有意志,各種各樣的人,有些人的意志就是要把別人征服,壓倒所有人,這就是利用人工智能這個工具來奴役他人,這是很危險的,但這個危險來自人而不是人工智能。


這一小撮人偷偷控制你,用大數據跟蹤你,從而控制你,貶損了你的尊嚴。你以為是自己想幹,其實是被他人控制了才想的。那並不是真正的人工智能征服人類,而是人、小一部分的人征服了大眾。這不是人工智能特有的問題,歷史上所有的政治事件政治衝突都是一樣的。這個問題相當於我們蓋房子蓋成豆腐渣工程,嘩地一下子,把我們給砸死了。這是同一類的問題,而不是人工智能特有的問題。自己做的失去控制,把自己給搞死了。這豆腐渣工程是失控的結果,與人工智能是類似的。


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

但是,如何應對強人工智能呢?按照人文理性的要求,面對自己創造的具有自我意識的強人工智能存在體,我們的基本態度應是接受並認可他們是人類進化了的後代。正如經過上萬年的演變後,躲在山洞裡的智人成為穿梭於摩天大廈裡的現代人的歷史進程一樣,人類以嶄新的方式繁衍出一種新面貌的超級智能人,這不是滅世的劫難而是人類的跳躍式進化。


但是,目前以Neuralink為代表的科技公司所試圖做的腦機互聯,卻極有可能將人類個體變成徒有人形的機器人,亦即行走的“殭屍”,徹底終結人類文明。如若僅僅出於害怕人類在超人工智能時代到來時不能與AI在勞動力市場相匹敵甚至被淘汰而企圖將人類變成AI,這將是對人類最緊迫且最嚴重的威脅。就像上文所說的那樣,人腦是迄今為止我們所知的最為複雜精巧的東西,在我們還沒有基本摸清其運作原理之前,對其進行任何加工改造都是極端危險的行為。


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

虛擬現實的顛覆性


著有《未來簡史》的哲學家赫拉利最近在英國的《衛報》發表了一篇文章,題為“無需就業就實現人生意義”,宣稱人工智能的發展將大多數人變成“不可就業”後,虛擬現實讓人們直接實現生活的意義。他還把人們在VR世界中與生產力脫離的活動類比於古往今來的宗教活動,試圖說明人們從來都是在生產活動之外才找到深層意義的源頭。


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

赫拉利認為勞作不是生活意義的源頭,與我們以上的觀點不謀而合。但他將人們在虛擬世界中的活動與宗教類比,卻忽略了一個最重要的問題,那就是,在宗教中,人一般被當成被造的存在,而在虛擬世界中,每個人都可以是世界的“造物主”。他沒注意到,“創造”與“被造”,是相反的。


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

在VR與物聯網整一起之前,

VR只是一個體驗的世界,很多東西並不會在真實社會中直接造成實質性後果。VR和物聯網整在一起就不一樣了,那就是ER,擴展現實,我們此時就可以從虛擬世界操作現實世界中的物理過程,完成生產任務了。這方面我們界定完了以後,就可以討論,到底在現實世界不能幹的事情,是否可以允許人們在虛擬世界中去實現。


有人認為現實世界不許乾的事都是壞事,那可不一定。比如說,現實生活中有國界,而虛擬世界中可以沒有國界,沒國界到底是好事還是壞事?沒有進一步討論之前,我們先不要輕易下結論。一下子從管制角度看,它好像是壞事,但是終極來看也許並不是壞事。是我們制度要適應這種東西,而不是倒過來,讓我們適應已有的制度。


這就需要非常嚴格的邏輯思維,對人類社會本性有一種透徹的理解,對我們的生活的內在價值,都要有一些比較深刻的理解,才能想清楚這些我們必須面對的新問題。這就有很多思想資源,有兩千多年來哲學家討論的東西,平時人家不關心這些。現在虛擬世界和人工智能等東西來了,那些東西就變成任何人都要面對的事情。我們立法,和人建立關係打交道,都變成要思考最抽象的哲學問題了,這就要激活大家的人文理性。

VR領域真正的問題,其實是與馬斯克的“腦機融合”項目類似的問題。虛擬現實行業的不少人與馬斯克有類似的危險想法,就是繞過人的自然感官直接刺激腦中樞來給人輸入虛擬世界的信號。經過我們以上的分析,我們知道,這是萬萬使不得的。


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

不同的是,VR這邊形勢更加緊迫,卻少有人關注。虛擬現實與物聯網的結合是不久後幾乎必然要發生的事情,我已在實驗室中做出了可操作的原型了。做出這個,就是要警示大家,弄好了我們接近神仙,弄不好呢,馬斯克還沒來得及做的事,被虛擬現實大牛搶先了。一旦大家腦部被插,無論是在VR還是AI領域的人乾的,可能結果就是人類文明的終結。


本文作者


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?

翟振明

廣州大學R立方研究所所長

中山大學人機互聯實驗室主任、哲學教授


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?


呼吸公社2020首期線上研討會


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?


呼吸公社是由服務器藝術搭建的一個跨學科、多媒體的思想交流平臺。它匯聚藝術與科學、哲學、人文各學科領域的精英人脈,合力打造一個理性思想與感性經驗交互碰撞、溝通和融合的跨界空間,以此探討並追究藝術、科學、哲學對於人類存在的意義。呼吸公社通過定期舉辦跨領域的學術對話、講座、論壇,以閉門與公開、線上與線下等各種交流傳播形式,不斷拓展並突破現代社會的知識視界和思想疆域。


服務器藝術以服務人類的智慧與知識生產為宗旨,將承載一個跨學科、多媒體的思想交流平臺“呼吸公社”。同時服務器藝術立足於藝術的當代性、國際性和原創性,致力於探究全球語境下當代藝術的精神內涵和價值取向,並以收藏、研究優秀當代藝術作品的新型模式,推動中國當代藝術在人類知識基因、文化根性和歷史文脈上的不斷建構和發展。


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?


埃隆 · 馬斯克要搞腦機融合,是神話還是災難?



分享到:


相關文章: