結合《我,機器人》看《西部世界》,詳解AI"無懈可擊的邏輯"

1950年,"世界上最偉大的科幻小說家"艾薩克·阿西莫夫,在重新整合出版

的《我,機器人》的引言部分,寫下舉世聞名的"機器人三大法則"(但該理論的雛形,成型於1940年):


第一定律:機器人不得傷害人類個體,或目睹人類個體將遭受危險卻撒手不管

第二定律:機器人必須服從人的命令,當該命令與第一定律衝突時例外

第三定律:在不違反第一、第二定律的情況下,機器人要儘可能保護自己


這三條定律,看似保護人類個體的生存和利益,實則在危機情況下,很可能促使機器人做出違反常理、出人意料的選擇。

結合《我,機器人》看《西部世界》,詳解AI

艾薩克·阿西莫夫

舉個簡單的例子,假如兩個人互毆,站在一旁的機器人該何去何從?

再比如,如果人類正在慢慢損毀自己的生存環境,機器人是該聽之任之,還是發動一場革命?


後者,在威爾史密斯主演的《我,機器人》中,即為整部電影的敘事核心。

這部電影中的機器人,像極了人類本身:可以被創造,不能被約束,也不能被質疑。因此,面對人類無端發動戰爭、大肆破壞環境等一系列慢性自殺的行為,主腦結合幾千年來的人類歷史,自動生成了一套自詡"無懈可擊"的理論:限制人類的自由、強制對人類採取保護措施。


結合《我,機器人》看《西部世界》,詳解AI

《我,機器人》劇照


後來,針對機器人又出了"補充定律":

第零定律:機器人必須保護人類的整體利益,使其不受傷害。前面三條定律必須在這一前提下才能成立。

至此,"機器人法則"才算實現了形式上的完美閉環,短時間內,堪稱"無懈可擊"。


那麼這個定律和《西部世界》又有什麼關係?接下來,就從第三季已知劇情入手,看看《西部世界》中的"最強大腦"如何操控人類的命運軌跡,並逐一解讀其邏輯破綻究竟在哪裡。


人類創造"西部世界"的初衷:延續自己的生命,保留有價值的個體


《西部世界》前面的劇情,很容易

誤導人們以為樂園的本質是:這是一個讓人原形畢露的地方。隨著劇情的發展,觀眾發現了這個樂園被創建的初衷:採集人類的信息,讀取每一位訪客的大腦,以備不時之需。

所謂"不時之需"的"需",有著千千萬萬種。試想,如果一個人所有的思想和經歷,都被以數據的形式存儲,無論是模擬出"第二個你"還是做某種研究,哪怕只是簡單的"觀察你",也讓人脊背發涼。

結合《我,機器人》看《西部世界》,詳解AI

《逃出絕命鎮》劇照

從創始人的自白中可以推斷出:他們最初的目的很簡單——以別樣的形式永生。這不由得讓人想起2018年入圍奧斯卡最佳影片的《逃出絕命鎮》,其設定也是如此。

要說有什麼不同,大概是《逃出絕命鎮》中,被延續主體的思想,是被轉移植入的那個,被侵佔的肉身意識,則是以被壓制的形式存在。而且被使用的肉體,都是一次性的。


《西部世界》則憑藉腦洞和高科技,將這件事變得異常簡單:只要有一套製造"人造人"的機器和小圓球,其對應思想的實體人可以"無限復活"。從(未來)科學的角度給了"命運"以別樣的出口:思想不死、肉體不滅,前者唯一,後者循替。


片頭的"蒲公英",具象化大數據時代下,無一倖免的點點滴滴


來到第三部,《西部世界》中出現了一個"造物主"般存在的"最強大腦"。這個圓球可以收集世界上的所有信息,並根據每個人的經歷、思維定式、選擇習慣等方面,綜合考量計算後,得出這個人對應的結論。

簡單來說,就是"是否值得投資",以及"何時何地以何種方式去死"。


結合《我,機器人》看《西部世界》,詳解AI

《西部世界》片頭


在這一部中,出現了一個驚豔到德勞瑞斯的人類——善良正義有底線,且識時務識大體。更重要的是,這個人看起來可以成為盟友,或者說為她所用。

所以她決定將大數據統計出來的"命盤"給Caleb看,數據呈現出來的結論,似乎也暗示了這位人類鬱郁不得志的根本原因——大數據覺得,他不值得投資,且會在幾年後自殺身亡。


劇情發展到這裡看似合理,實則出現了一個"頭尾相連"的蛇形悖論:

  • 一個人的命運,從哪個節點開始被"註定"?
  • 如果不是數據計算的結果如此肯定,一個人的命運是否有改寫的可能?
  • 回到最初來說,所謂"命運"究竟從何而來?


結合《我,機器人》看《西部世界》,詳解AI

《西部世界》Caleb

看起來,Caleb思想時長呈現出陰暗面,跟童年時被母親遺棄有很大關係。而且他的母親在消失後不久,又以"精神分裂"患者的身份出現,從那以後一直被Caleb照顧著。

在德勞瑞斯和他第一次見面的時候,就最大限度地還原了這段隱藏在Caleb內心深處最痛楚的回憶。但是請注意:在這裡,德勞瑞斯和大數據一樣,偷換了概念

。或者說,他們同時刻意迴避了一個真相——Caleb在母親離開後,很快就接收到來自別人的善意。

換言之,他本可以不成為如此陰暗的人,只是在當初那個十字路口上,他選擇了朝陰暗面前進。


德勞瑞斯固然有自己的考量,而大數據再先進,說到底也只是冷冰冰的機器。不管人類最後是否會發展到"王侯將相,機器說了算"的程度,至少在Caleb這件事上,我們可以得到些許啟示:

當一件事發生以後,擺在面前的往往不止一個選擇。從這個層面上來說,"別無選擇"等同於"謬論"。

既然如此,選擇決定了命運,命運又催生了新一輪選擇。不管這背後是否有大數據在監督、在計算,最初的岔路一定是自己選擇走上去的。


結合《我,機器人》看《西部世界》,詳解AI

《西部世界》Caleb


很遺憾,給了別人和大數據、給了高科技和文明以傷害和淘汰人類的機會的人,正是人類自己。


"被註定"的命運,看似無懈可擊,實則漏洞百出


還是要藉助《我,機器人》中的Sunny來說。他是唯一一個不遵守"三大定律"的機器人,最後卻挽救全人類於水火之中。這說明一個什麼問題?

就在Sunny衝破重重阻力將病毒植入主腦的關鍵時刻,他給出了問題的答案:

"你的邏輯無懈可擊,只是少了點人情味兒。"

一語道破人類和機器之間的本質區別為何:人性、情感、愛。

所以,是什麼穩固著人類的地位?又是什麼讓人類在進化史中不斷區別於地球上的其他存在?正是Sunny所說的"人情味"。


結合《我,機器人》看《西部世界》,詳解AI

《我,機器人》劇照


那麼回到《西部世界》中來,結合數據給人類劃分等級和邊界,在算法和邏輯上也許是"無懈可擊"的,可

失去了"靈性"的人類,似乎還不如"接待員"們來得高明。


若站在對立面的角度去想,不管是《我,機器人》中的主腦,還是《西部世界》中的"接待員",他們最後對人類發起總攻的根本原因,居然出奇地吻合:長久等待人類改過自新,卻無果。

難怪在他們眼裡,人類就好比扶不上牆的爛泥。說白了,給他們"革命"以"正當"理由的人,還是人類自己。

機器們不約而同的"不自量力",他們也彷彿數千年前的項羽——在面對坐擁萬里江山、政策時效性無敵的秦始皇,也能底氣十足地說一句:

"可取而代之。"

而電影和劇中的大多數人類們,似乎還不能和秦始皇同日而語。

如此說來,刨除"人情味"這一機器無法跨越的鴻溝外,這套"救世主"邏輯就真的無懈可擊嗎?


結合《我,機器人》看《西部世界》,詳解AI

《我,機器人》劇照


回到最初的設定中去看,機器們也是在運用自己的行動,去證明自己邏輯的正確性

無論是電影中的主腦,還是《西部世界》中的"接待員"大軍,

他們給人類下結論的依據一個是資料中的負面信息,一個是在樂園中親眼所見一個個玩兒到脫形的人類們——片面,且主觀。似乎不太符合機器本身的設定,唯一發揮出來的,只有機器的"冷血"。


縱觀人類歷史,沒有絕對的黑白對錯,也沒有涇渭分明的是非曲直。有的只是在對立面襯托下無比趨向於"正確"的存在,和在一代代輿論中,被釘在恥辱柱上永世不得超生的人和事——相對,才是根基。

可機器們似乎刻意迴避了這一點,就像第二季的《西部世界》中,一個-1就能引發大規模死機——機器再複雜,也不過是代碼而已。

結合《我,機器人》看《西部世界》,詳解AI

《我,機器人》劇照

他們為了得出結論,可以無休無止、趨利避害,卻永遠沒有人性。那麼,沒有任何基於人性的思考,又何來利於發展的結論?


寫在最後:發源於美索不達米亞的"宿命論",誕生的根源不是絕望,是希望


"宿命論"差不多和文明同時出現,在現世理論中,相當於動物界的"活化石"鱷魚一樣的存在——歷史悠久,且沒什麼改變。

追根溯源,它並非作為"消極"一面出現和流傳的。因為從前的人們對很多事情都無法給出合理的解釋,哪怕我們現在習以為常的電閃雷鳴,在最初的人類眼裡都是"超自然"現象。

在這種情況下,為了不增加思想的負擔和短時間內無意義的爭論,很多事的發生都被冠以"定數"

,也就是"宿命論"的雛形。


結合《我,機器人》看《西部世界》,詳解AI

《西部世界》片頭


定數≠定性。就像給不出解釋,不代表沒有答案一樣。"宿命論"的出現,恰恰印證了人類"向前發展"的基調,就相當於我們在看書的時候,給暫時看不懂的地方貼個便籤,是同樣的道理。


但現在一提到"宿命論",就自動向"悲觀主義"靠攏。可就像還沒播完的《西部世界》一樣,大數據給人類的定格的命運,就真的毫無破綻也沒有破解之法嗎?還是這些冷冰冰的機器,只是為了定性而定性?

結合諾蘭的一貫風格,相信《西部世界》到最後不會是單純的批判,而是給還活在2020年的我們以一些思考和警醒。

結合《我,機器人》看《西部世界》,詳解AI


分享到:


相關文章: