當科幻世界引進的機器人看起來及行為像人一樣，這些世界的居民遲早會面對機器人自我意識的問題。如果一臺機器是為了真正模仿人類而建造的，那麼它的“大腦”就必須足夠複雜，不僅能像我們一樣處理信息，而且還能實現某些使我們成為人類的抽象思維。這包括承認我們的“自我”和我們在世界上的地位，一個被稱為意識的狀態。
科幻小說中定義人工智能意識的一個例子是AMC的《人類》，在這個系列中，被稱為synth的類人機器已經變得自我有意識，當他們團結起來，獨立生活並定義他們是誰時，他們也必須為接受和生存而戰，對抗那些創造並使用他們的敵對人類。但是，在現實世界中，人工智能到底意味著什麼呢？人工智能到底有多接近實現這個目標呢？哲學家們把意識描述為擁有一種獨特的自我意識，並意識到你周圍發生了什麼。
神經科學家們通過對一個人的大腦活動進行分析，並對感官數據進行分析，從而對意識如何被量化提供了自己的觀點。然而，將這些規則應用於人工智能非常棘手。在某些方面，人工智能的處理能力與人類大腦的處理能力是一樣的。複雜的人工智能系統使用一種叫做深度學習的過程來快速解決計算任務，使用分層算法的網絡來相互通信來解決越來越複雜的問題。這是一種非常類似於我們自己大腦的策略，在這裡，信息可以加速神經元之間的連接。
在一個神經網絡中，深度學習使人工智能學會如何識別疾病，贏得與世界上最好的人類玩家的戰略遊戲，或者寫一首流行歌曲。但是要完成這些壯舉，任何神經網絡仍然依賴於人類程序員設置任務並從中選擇數據來學習。英國牛津大學(University of Oxford)計算科學教授伊迪絲·埃爾金(Edith Elkind)說：人工智能的意識意味著神經網絡可以自己做出這些最初的選擇，偏離程序員的意圖，做自己的事情。當機器開始設定自己的目標並按照這些目標行動時，它們就會變得有意識，而不是按照程序去做。這與autonomy不同：即使是完全自動駕駛的汽車，也會像被告知的那樣，從a駕駛到B。
意識的三個階段
研究人員在《科學》(Science)期刊上發表的一項研究報告中稱，機器變得自我意識的一個缺陷是，人類的意識還不夠明確，這將使程序員很難在人工智能算法中複製這種狀態。科學家根據大腦中發生的計算，定義了人類意識的三個層次。科學家們在這項研究中寫道，第一個標記為“C0”，表示沒有我們的知識，如面部識別過程中發生的計算，以及大多數人工智能在這個層面上的功能。
第二個層次是“C1”，即所謂的“全球”信息意識——換句話說，就是積極篩選和評估大量數據，以作出明智的、深思熟慮的選擇，以應對具體情況。該研究的作者稱，自我意識出現在第三層，即“C2”，即個人識別並改正錯誤，並調查未知的錯誤。加州大學洛杉磯分校的神經學家，研究報告的作者之一，Hakwan Lau說：一旦我們能用計算的術語拼寫出意識和無意識之間的人類差異，將其編碼到電腦中可能並不那麼困難。
在某種程度上，某些類型的人工智能可以評估它們的行為並對它們做出正確的反應——這是人類意識的C2級的一個組成部分。但埃爾金德在郵件中說，不要指望很快就能見到自我意識的人工智能。雖然我們非常接近能夠自主操作的機器(自動駕駛汽車，可以探索未知地形的機器人等等)，但我們離有意識的機器還很遠，也或許就不可能！
博科園-科學科普｜文：Mindy Weisberger/Live Science
閱讀更多 博科園 的文章
