隨著深度神經網絡不斷改進和發展，將需要硬件創新以滿足不斷增長的計算需求。
深度學習一直處於人工智能（AI）近期發展的最前沿。 它涉及一組受生物神經網絡啟發的機器學習算法，可以教機器查找大量數據中的模式。 這些深度神經網絡已經在語音和對象識別等領域取得了重大進步，併成為在特定任務中表現出超人能力的計算機程序的基礎。
這種方法當前功能最引人注目的演示可能是AlphaGo。該項目由谷歌旗下DeepMind的研究人員開發，在2016年3月的五場比賽中擊敗了遊戲Go，Lee Sedol的世界冠軍; 得分為4：1：1。此時，AlphaGo唯一的競爭來自更好的版本。
2017年10月，DeepMind團隊報告了一個更新的計劃--AlphaGo Zero--它使用強化學習，僅通過玩遊戲來訓練自己; AlphaGo依靠數百萬人類專家行動的無監督學習。 與淘汰Sedol的AlphaGo計劃相比，AlphaGo Zero贏得了100場比賽的勝利。
“DeepMind正在進行一項長期的科學探索研究，打造智能解決方案，並造福全世界。我們很自豪，部分工作成果已經應用在了醫療保健、能源等領域。”作為互聯網科技巨頭，谷歌人工智能的重視和投入程度都在不斷加大。比如去年推出的AI開源項目——AIY Projects（全稱為 Artificial Intelligence Yourself），就是為了讓AI人工智能更加平民化、普及化，讓人人都可以瞭解AI、接觸IA、並動手開發自己的AI人工智能產品。
深度神經網絡涉及通過數字“突觸”連接的多層“神經元”。 他們接受大型數據集的培訓，並伴有所需任務的答案，在此期間，調整神經元之間連接的強度或重量，直到頂級輸出正確為止。 然後，訓練的神經網絡以訓練階段期間確定的權重運行，然後可以在稱為推斷的步驟中應用於新數據。
深度神經網絡的最近成功是由算法和網絡架構的進步推動的，但也值得注意的是，通過不斷增長的大量數據的可用性以及更強大的計算機的不斷髮展。 在這一點上，具有最先進精度的深度神經網絡的計算需求是相當大的。 正如Yiyu Shi及其同事在本期“自然電子”雜誌的一篇“透視”中所說，這為深度神經網絡提出了一個新興問題，特別是它們在移動和嵌入式設備上的潛在實現，例如智能傳感器或可穿戴設備，其中電力資源有限。
位於聖母大學的研究人員 ，以及加州大學洛杉磯分校和華中科技大學 - 負責研究深度神經網絡的準確性和規模以及不同硬件平臺的容量。他們表明，在用於邊緣推理的深度神經網絡的縮放（在嵌入式平臺上本地進行推理）和互補金屬氧化物半導體（CMOS）技術的縮放之間存在差距，並且這些差距正在增長。隨著深度神經網絡變得更加準確，它們的大小（層數，參數和操作數量）急劇增加。但是，正如Shi及其同事所表明的那樣，典型硬件平臺 - 圖形處理單元（GPU），現場可編程門陣列（FPGA）和專用集成電路（ASIC）的性能無法跟上領先的領先規模。深度神經網絡設計。類似地，硬件平臺容納網絡所需的存儲器的能量效率不能跟上網絡規模的增加。
Shi及其同事指出，“CMOS縮放對滿足日益苛刻的計算密度和能效要求沒有太大幫助，因此需要在架構，電路和設備方面進行創新。”因此，他們繼續研究不同的架構和算法 可以共同幫助彌合這些差距的創新。
一種這樣的方法是試圖擺脫傳統的馮·諾依曼計算系統，其中存儲器和處理單元在物理上是分開的。例如，納米級電阻存儲器件（憶阻器件）可用於處理和存儲器。然而，設備可變性仍然是一個問題，這限制了可以執行計算的準確性。在本期雜誌中，IBM研究院的蘇黎世和蘇黎世聯邦理工學院的Manuel Le Gallo及其同事表示，通過將使用電阻式存儲設備的內存處理與傳統的數字處理相結合，可以避免這個問題。這裡的內存處理器單元 - 具體地說是相變存儲器設備陣列（如圖） - 執行大量計算任務，並且傳統處理單元迭代地提高解決方案的準確性。 Le Gallo及其同事通過求解線性方程組來說明該方法的功能，即它們稱為混合精度內存計算。但該方法已經應用於深度神經網絡的訓練。
開發特別適用於AI應用的器件和芯片的潛力也喚醒了人們對芯片初創企業的興趣。 今年早些時候，“紐約時報”報道說，目前至少有45家初創公司正在研發此類芯片，去年風險資本家投資超過15億美元的芯片初創企業，這幾乎是兩年錢投資的兩倍。
比如，谷歌也發佈自己的TPU以及Edge TPU——TPU是針對TensorFlow上的機器學習工作負載量身定製的定製應用專用集成電路（ASIC）。 去年，谷歌宣稱它的TPU比現代GPU和推理CPU快15到30倍，並且TOPS / Watt測量值提高了30-80倍。並且谷歌在同年還發布了用於邊緣計算的Edge TPU，以及相關設備：AIY Projects Edge TPU Dev Board和Edge TPU Accelerator 圍繞谷歌新推出的專用邊緣TPU。
這項技術可能帶來的好處是相當大的，來自學術界和工業界的研究人員正在應對硬件挑戰 - 機遇 - 機器學習和人工智能。
閱讀更多 引力空間站 的文章
