如何用現代技術建立一個完全功能的人工大腦

@SANDEEP RAVINDRAN,2019年5月1日

如何用現代技術建立一個完全功能的人工大腦

上圖:智能芯片:由物理學家Karlheinz Meier卡爾海因茨·邁爾的海德堡小組設計的一種神經形態芯片。該芯片有384個人工神經元,通過100000個突觸相連,運行速度大約是大腦計算速度的100000倍(單純的以計算速度來比較)。

基於生物神經元的計算機芯片可能有助於模擬更大更復雜的大腦模型。

2012年,計算機科學家Dharmendra Modha達蒙達•莫哈用一臺強大的超級計算機模擬了超過5000億個神經元的活動,甚至超過了人類大腦中850億個左右的神經元。這是近十年來的研究成果的頂峰,從模擬齧齒動物和貓的大腦發展到模擬人類的大腦。

這個模擬消耗了巨大的計算資源——150萬個處理器和150萬兆字節(150萬千兆字節)的內存,而且速度仍然非常慢,比大腦的計算速度慢了1500倍。Modha估計,要在生物實時中運行它需要12千兆瓦的能量,大約是胡佛大壩最大輸出能力的6倍。

“然而,這只是一幅大腦功能的概念”位於北加利福尼亞州IBM阿爾馬登研究中心負責大腦啟發計算的首席科學家Modha說。這個模擬實驗幾乎無法複製人腦的功能,人腦使用的電量與一個20瓦的燈泡差不多。

自21世紀初以來,改進的硬件和實驗和理論神經科學的進步使研究人員能夠創造出更大更詳細的大腦模型。但是這些模擬越複雜,就越容易受到傳統計算機硬件的限制,如Modha的耗電模型所示。

這是我們可以對大腦進行逆向工程的最雄心勃勃的技術難題之一。-邁克·戴維斯,英特爾

莫達的人腦模擬是在勞倫斯利弗莫爾國家實驗室的Blue Gene/Q紅杉超級計算機上進行的,這是一個非常強大的傳統計算機硬件的集合體:它由大量的傳統計算機芯片、指甲大小的硅晶片(包含數百萬個晶體管)驅動。控制傳統計算機芯片結構和功能的規則與我們大腦的規則大不相同。

但事實上,計算機與我們的大腦“思考”非常不同,當涉及到像數字計算這樣的任務時計算機具有很高優勢,同時使他們在其他領域,如理解人類語言或從經驗中學習,明顯地功能原始。如果科學家想模擬一個能與人類智力相匹配的大腦,更不用說讓它黯然失色了,他們可能必須從更好的構建模塊開始設計,並受我們大腦啟發的計算機芯片。

所謂的神經形態芯片複製了大腦的結構

,也就是說,它們通過類似於神經元動作電位的“神經元尖峰”相互交流。這種尖峰行為允許芯片消耗很少的電能,即使將其拼接到非常大的系統中,也能保持高效的電能。

安大略省滑鐵盧大學的理論神經科學家Chris Eliasmith克里斯·埃利亞斯米特說:“在我看來,最大的優勢是人工大腦可擴展性。”在《如何建立大腦》一書中,Eliasmith描述了他創建並命名為Spaun的人工大腦的大規模模型。當Eliasmith運行Spaun的初始版本時,有250萬個“神經元”,它的運行速度比生物神經元慢20倍,即使模型運行在最好的傳統芯片上。“每次我們加上幾百萬個神經元,它就會慢得多,”他說。當Eliasmith在數字神經形態硬件上進行一些模擬時,他發現它們不僅速度快得多,而且效率高出50倍。更好的是,隨著Eliasmith模擬更多的神經元,神經形態平臺變得更有效。這是神經形態芯片旨在複製自然的方法之一,當它們從蠕蟲大腦中的300個神經元擴展到人類大腦中的850億個左右時,大腦似乎增強了能量和效率。

Neuromorphic chips神經形態芯片在耗電很少的情況下完成複雜計算任務的能力已經引起了科技界的關注。神經形態芯片的潛在商業應用包括節能超級計算機、低功耗傳感器和自學習機器人。但是生物學家有一個不同的想法:建立一個完全功能的人腦複製品。

今天的許多神經形態系統,從IBM和Intel開發的芯片到作為歐盟人腦項目一部分創建的兩款芯片,也可供研究人員使用,研究人員可以遠程訪問它們來運行模擬。研究人員正利用這些芯片來建立單個神經元和突觸的詳細模型,並破譯這些單元是如何結合在一起形成更大的大腦子系統的。這種芯片可以讓神經科學家測試視覺、聽覺和嗅覺如何在實際硬件上工作的理論,而不僅僅是軟件。最新的神經形態系統也使研究人員開始了一項更具挑戰性的任務,即複製人類的思維和學習方式。

現在還很早,真正釋放神經芯片的潛力需要理論、實驗和計算神經科學家以及計算機科學家和工程師的共同努力。但最終的目標是一個宏偉的目標,不亞於弄清楚大腦的各個組成部分是如何共同工作來創造思想、感覺甚至意識的。

英特爾神經形態計算實驗室主任,計算機工程師邁克·戴維斯說:“這是我們能對大腦進行逆向工程的最雄心勃勃的技術難題之一。”

一切都是關於建造結構

加州理工學院的科學家卡弗·米德(Carver Mead)在20世紀80年代發明了“neuromorphic神經形態”一詞,他注意到,與現代計算機芯片的積木式數字晶體管不同,模擬晶體管更接近於神經元的生物物理學。

具體地說,在一個如此微小的模擬電路中,非常微小的電流使電路有效地“斷開”,當這種流動不產生動作電位時。 這種功能類似於離子在生物神經元的通道中流動的動力學。

由於受到米德和他的同事們的興趣,Giacomo Indiveri決定在20世紀90年代中期在加州理工大學做博士後研究。現在,他是瑞士蘇黎世大學的神經形態工程師,Indiveri管理著少數幾個繼續米德使用低電流模擬電路方法的研究小組之一。Indiveri和他的團隊手工設計芯片的佈局,這一過程可能需要幾個月的時間。“這是筆和紙的工作,因為我們試圖想出最優的解決方案來實現神經動力學,”他說。“如果你在做神經模擬,它是一門藝術。”

如果你在做神經模擬,它是一門藝術。-蘇黎世大學Giacomo Indiveri

一旦他們最終確定了佈局,他們就會把設計電路給製造廠,這是製造智能手機和電腦芯片的同一家精密金屬製造廠。最終的結果看起來像一個智能手機芯片,但它的功能就像一個由“神經元”組成的網絡,通過幾個節點傳播峰值電流。在這些模擬神經形態芯片中,信號通過實際的電壓尖峰進行中繼,電壓尖峰的強度會有所不同。就像在大腦中一樣,信息是通過不同神經元的放電尖峰時間來傳遞的。

Indiveri說:“如果你向神經生理學家展示其中一個神經元的輸出,他將無法告訴你它是來自硅基神經元還是來自生物神經元。”

這些硅基神經元代表著用硅基芯片複製神經系統的不完美嘗試。生物神經元是混合模擬數字系統;它們的動作電位模擬數字硬件的離散脈衝,但它們也是模擬的,因為神經元中的電壓水平會影響正在傳輸的信息。

模擬神經形態芯片的特點使硅基芯片神經元與生物神經元的物理行為非常相似,但它們的模擬性質也使得它們傳輸的信號不那麼精確。雖然我們的大腦已經進化到可以補償其不精確的組成部分,但研究人員卻將基本概念帶入了數字領域。像IBM和Intel這樣的公司專注於數字神經芯片,其硅基神經元複製了生物神經元中信息流動的方式,但具有不同的物理特性,同樣的原因是,傳統的數字芯片已經取代了我們絕大多數的計算機和電子產品,它們具有更高的可靠性和易製造性。

如何用現代技術建立一個完全功能的人工大腦

上圖:神經構建塊:每個spinnaker芯片都與內存(左上角)打包在一起,然後平鋪到較大的設備中,例如右上角的48節點板。

如何用現代技術建立一個完全功能的人工大腦

最後,多個電路板可以連接在一起形成更大的Spinnaker系統(上圖)。

但是這些數字芯片在捕捉大腦結構的過程中保持了它們的神經形態。在這些數字神經芯片中,尖峰以信息包的形式出現,而不是電壓變化的實際脈衝。英特爾的戴維斯說:“這與我們通常在電腦上設計的任何東西都大不相同。”

無論尖峰採取什麼形式,系統只在輸入達到某個閾值時傳遞信息,允許神經形態芯片停頓而不是消耗能量。這類似於大腦的神經元在準備好的時候的通訊方式,而不是在計時員的要求下。另一方面,傳統的芯片大多是線性的,在存儲數據的存儲器硬件和在嚴格的內部時鐘控制下計算數據的處理器之間來回傳輸數據。

當Modha設計IBM的神經形態芯片Truenorth時,他首先分析了大腦的遠程接線圖,該圖描繪了不同大腦區域在獼猴和人類中是如何相互連接的。“它真的開始告訴我們關於遠程連接、短距離連接以及神經元和突觸的信息。他說。到2011年,modha製造了一種包含256個硅神經元的芯片,與蠕蟲線蟲之類的大腦規模相同。使用最新的芯片製造技術,modha將神經元更緊密地封裝在一起以縮小芯片,將4096個芯片放在一起導致了2014年發佈的Truenoth,它包含100萬個類似於蜜蜂大腦規模的合成神經元,比傳統芯片消耗的能量少幾百倍。

像Trunorth這樣的神經形態芯片在人工神經元之間有很高的連通性,類似於在哺乳動物大腦中看到的。人類大腦中850億個神經元通過大約1萬億個突觸高度相連。

Truenoth相當簡單,包含2.56億個連接100萬神經元的“突觸”,但通過將多個Truenoth芯片組合在一起,Modha創建了兩個更大的系統:一個模擬1600萬個神經元和40億個突觸,另一個模擬6400萬個神經元和160億個突觸。目前,各機構的200多名研究人員都可以免費獲得Trunorth。

除了神經形態芯片的高度互聯和突出的特性外,它們還複製了生物神經系統的另一個特性:與傳統的計算機芯片不同,傳統的計算機芯片把處理器和存儲器放在不同的位置,神經形態芯片往往有許多小的處理器,每個處理器都有少量的局部存儲器。這種結構類似於人腦的組織結構,神經元同時處理數據存儲和處理。研究人員認為,這種神經形態結構的元素可以使用這些芯片構建的模型更好地複製人類的學習和記憶。

學習能力是英特爾Loihi芯片的一個焦點,該芯片於2017年9月首次宣佈,並於去年1月與研究人員分享。4為模擬約13萬個神經元和1.3億個突觸而設計的,Loihi整合了峰值時間依賴性可塑性(stdp)模型,這是一種在大腦中調節突觸強度的機制。突觸前和突觸後峰值的相對時間。如果一個神經元在第二個神經元之前發射,則它會加強與第二個神經元的連接,而如果發射順序相反,則連接強度會減弱。這些突觸強度的變化被認為在人類大腦的學習和記憶中起著重要作用。

領導Loihi開發的Davies說,其目的是捕捉我們大腦非常擅長而目前的人工智能模型卻不擅長的快速、終身學習。和Truenorth一樣,Loihi也被分配給了不同的研究人員。隨著越來越多的研究小組使用這些芯片來模擬大腦,戴維斯說,“希望我們在大腦中看到的一些令人驚奇的能力的解釋能夠變得清晰。”

神經科學的神經形態

對於所有潛在的科學應用,Truenorth和Loihi並不是專門為神經科學家建造的。它們主要是研究芯片,旨在測試和優化神經形態結構,以提高其功能和易用性,以及探索各種潛在的商業應用。從語音和手勢識別到高效能的機器人和設備上的機器學習模型,這些模型可以為智能手機和自動駕駛汽車提供動力。另一方面,歐盟的人腦項目開發了兩個神經形態的硬件系統,明確了理解大腦的目標。

Brainscales於2016年推出,5在硅晶片上結合了許多芯片,更像是超薄飛盤,而不是指甲。每一塊晶圓都包含384個模擬芯片,其運行方式與Indiveri模擬芯片的強化版本相當,優化的是速度而不是低功耗。他們共同模擬了每片晶片上大約20萬個神經元和4900萬個突觸。

建立大腦的功能模型

神經形態技術正在推動越來越大、越來越複雜的大腦模型,這些模型已經開始在現代超級計算中達到極限。Spaun就是一個例子。250萬神經元模型概括了人類大腦的幾個特徵的結構和功能,以執行各種認知任務。就像人類一樣,它能比長序列更容易記住一個短序列的數字,並且比中間的數字更容易記住前幾個和後幾個數字。雖然研究人員已經在傳統的硬件上運行了部分當前的Spaun模型,但神經形態芯片對於有效地執行目前正在開發的更大、更復雜的版本至關重要。

BrainScaleS以及歐盟的其他神經形態系統,稱為spinnaker,受益於成為人腦項目的一部分,該項目由理論、實驗和計算神經科學家組成。與這個社區的互動指導了新功能的添加,這些新功能可能會幫助科學家,並允許來自兩個系統的新發現快速地回到這個領域。

英國曼徹斯特大學(UniversityofManchester)的計算機工程師史蒂夫弗伯(SteveFurber)20年前就構思了Spinnaker,他已經設計了十多年。Furber說,他和他的同事們花了大約六年時間在Spinnaker底層的小型數字芯片上,並在2011年實現了全部功能。從那時起,研究團隊一直在將芯片組裝成不斷增長的機器,最終在2018年底啟動的百萬臺處理器機器中達到頂峰。6 Furber預計Spinnaker應該能夠實時模擬小鼠大腦中的1億個神經元,這是傳統的超級計算機將對一臺小型計算機所做的事情。沙的時間變慢了。

歐盟人腦項目系統目前免費進入學術實驗室。神經科學家開始在Spinnaker硬件上運行他們自己的程序,以模擬大腦特定子系統(如小腦、皮層或基底節)的高級處理。例如,研究人員正試圖模擬一個小的重複結構單元——大腦外層的皮質微柱,負責最高級的功能。“微柱很小,但是它仍然有80000個神經元和25億個突觸,所以建模不是一件小事,”Furber說。

下一步,他補充道,“我們正在開始某種程度上的接近大腦系統思考水平,而不僅僅是單個大腦功能區域,”逐漸接近一個850億神經元器官的全尺寸模型,它將為人類智能提供動力。


分享到:


相關文章: