嚴冰冰 發自 凹非寺

量子位 報道 | 公眾號 QbitAI

深層卷積人工神經網絡（Deep Convolutional ANN）是近年來視覺處理領域的寵兒，它們起源於簡單的淺層網絡（如八層結構的AlexNet），進化出多層級、多分支的複雜結構（如NASNet、ResNet）。

這些深層的前饋神經網絡雖然在物體識別測試中表現卓越，但都存在侷限。

• 太過複雜：層級太多，難以與大腦視覺系統的腹側通路結構對應。
• 太不復雜：缺少具有生物學意義的大腦構造（如循環結構），難以匹配大腦複雜的神經動態。

這些深層ANN繼續進化，是否會變得越來越不像真實的大腦？

為了回答這個問題，MIT的DiCarlo實驗室推出線上測試平臺Brain-Score，評估ANN與大腦在物體識別過程中的相似程度，同時與多方合作，開發淺層網絡CORnet系列。

其中，最優秀的是CORnet-S選手，它的構造與大腦的解剖結構更加對應，且在機器學習評估中表現優異，是迄今為止靈長類視覺腹側通路的最佳模型，為視覺處理領域ANN的開發與對大腦功能的深入理解提供了新思路。

構造：簡潔輕便、模擬大腦

CORnet-S由4個層級組成，分別對應大腦視覺腹側通路中的V1、V2、V4與IT區域，在第4層之後增加一個線性分類解碼器，對應從IT區域信號輸出到行為選擇的處理過程。

△CORnet-S對應大腦視覺腹側通路的4個區域；來源：arXiv:1909.06161 [cs.CV]

CORnet-S的每個層級都是一個簡單的經典卷積神經網絡，由卷積、激活、非線性化、歸一化、池化等步驟組成，其中V2、V4、IT區域的迴路結構一致，但神經數目不同。

△CORnet-S參數；來源：https://doi.org/10.1101/408385

CORnet-S增加了層級內部循環的特徵，其中V2與IT區域重複2次，V4區域重複4次，並且增加了跳躍連接。

△來源：arXiv:1909.06161 [cs.CV]

層級內部循環，即將該層級的輸出作為輸入重新進入該層級，多次重複後得到最終的輸出，模擬腦區內部循環。

優勢：Brain-Score與ImageNet雙高分

Brain-Score平臺從以下幾個方面評估ANN性能：

• 神經信號預測：ANN是否能準確預測神經元（猴腦內88處V4區域位點與168處IT區域位點）對圖像輸入的信號反應；
• 行為預測：ANN與人類在核心物體識別中的行為模式是否一致（注意：此處評估行為的一致性，即同對同錯，而非準確性）；
• 物體識別時間（OST）：ANN與大腦內IT區域神經元（猴腦內424處IT區域位點）得到圖像分類信息所需時間是否一致；
• 前饋簡易度：評估ANN結構的複雜程度，以最長通路的卷積層數為標準，相同參數的區域內循環算作1，如CORnet-S為4層，非常簡單。

在Brain-Score平臺上可以看到，相比其他的視覺處理人工神經網絡，CORnet-S得分最高，在ImageNet測試中也名列前茅，是淺層網絡中表現最好的。綜合考慮ANN的前饋簡易度因素，CORnet-S也十分具有優勢。

△CORnet-S在Brain-Score與ImageNet評估中得分很高，且結構簡單；來源：arXiv:1909.06161 [cs.CV]

研究者進一步探索發現，循環是CORnet-S在評估中表現優異的關鍵因素，區域內循環次數、瓶頸層設定與跳躍連接是關鍵參數。另外，相比前饋網絡，CORnet-S與猴腦內物體識別時間的相關程度更高（r=0.19, p<1e-8），可以部分抓取IT區域的神經元動態，而這一點是前饋神經網絡無法做到的。

△CORnet-S的關鍵參數；來源：arXiv:1909.06161 [cs.CV]

總結

CORnet-S的發展不僅打破了傳統的深層網絡開發思路，也為神經生物學家深入理解大腦結構與功能提供了新的可能性。值得注意的是，目前CORnet-S的設定中不包含層級間循環與反饋，且不包括對應大腦結構中視網膜與外側膝狀體（IGN）的區域，這些現存的缺陷都為它未來的發展提供了想象空間。

傳送門

論文連接：

https://arxiv.org/abs/1909.06161

CORnet家族開源地址：

https://github.com/dicarlolab/cornet

— 完 —

量子位 QbitAI · 頭條號簽約

關注我們，第一時間獲知前沿科技動態