邊緣側AI興起,NN和DL如何實現更智能的互連世界

原標題:邊緣側AI興起,神經網絡和深度學習如何實現一個更智能的互連世界?

從蘋果、華為在其手機中引入專用的神經網絡引擎開始,引領了行業採用邊緣處理的潮流,人工智能從而正式進入智能終端設備,並且迅速成為廠商大力宣傳的賣點。現在,神經網絡引擎/加速器成為主流,包括Face ID等應用已能在終端設備上進行處理,不再依賴雲端,且相比傳輸到雲端處理更安全、私密,響應時間更快。

幾乎所有領域的芯片廠商都競相推出了不同類型的AI處理器。智能手機中添加AI功能成為邊緣側AI的一個典型應用,高通、英偉達等芯片企業都已宣佈推出用於智能手機和其他移動設備的神經引擎。在CEVA戰略營銷總監Moshe Sheier看來,幾年後,每臺帶有攝像頭的設備都將包含具有AI功能的視覺處理和神經網絡引擎。

“全球攝像頭的數量預計從2016到2022年期間會增長216%,屆時將會有大約440億設備帶有攝像頭(camera-enabled),這種新的垂直增長趨勢源自於越來越多的不同設備已經開始集成攝像頭。”他指出,“CEVA預測幾年後每個帶有攝像頭的設備都將內置面向人工智能的視覺處理和神經網絡處理器。到2020年,三分之一的智能手機將支持人工智能。”

邊緣側AI興起,NN和DL如何實現更智能的互連世界

邊緣處理的優勢在於減少延遲,全網絡覆蓋,增加了隱私和安全性,並減少了與雲端的通信,從而降低了成本。除了智能手機,Moshe Sheier還舉例說明了邊緣側AI的幾大類應用,包括智能安防、汽車等。

在智能安防領域,可以實現已知或未知的人臉檢測、語音生物識別、聲音檢測、動作感應,以及WiFi、藍牙或蜂窩網絡等的智能連接。這一切功能都可以進行決策,是否撥打報警電話,通知外出回家的家人順道去收取門口的信件等。

在汽車領域,可以幫助視覺傳感器實現駕駛員監視器、前視攝像頭系統、夜視環繞視圖盲點檢測、後/停車檢測等,也可以幫助實現定位、V2X通信及車內互連等功能,從這些功能中獲取的數據經過端側AI處理,可幫助駕駛員進行決策,並根據實際情況採取行動,同時通過深度學習不斷改善,以不斷提升決策的準確性。

邊緣側AI興起,NN和DL如何實現更智能的互連世界

在邊緣側AI巨大的市場潛力下,同時也面臨著幾個挑戰——功耗、價格和不斷飆升的性能需求。CEVA從去年開始部署相關技術,成為繼蜂窩網絡IP、互連IP、視覺IP和音頻IP之後的一大IP平臺。針對邊緣側的深度學習,CEVA在今年上半年推出了NeuPro系列AI處理器,可以應用於安防、運動攝像頭、智能手機、汽車、AR/VR、無人機等應用的便於智能視覺處理,使得每個帶有攝像頭的設備都能實現先進的成像、視覺和深度學習功能。

NeuPro系列的推出完善了CEVA的整體視覺和AI IP工具組合,分別包括:CEVA-XM智能視覺系列芯片平臺、NeuPro人工智能(機器學習)整體解決方案、硬件加速器DeWarp和適用於所有CEVA平臺的CDNN(CEVA Deep NN)軟件框架。

NeuPro作為全新的IP系列,它包括專用的引擎處理矩陣乘法、完全連接層、激活層和匯聚層。這種先進的專用AI引擎結合完全可編程工作的NeuPro VPU,可以支持所有其它層類型和神經網絡拓撲。這些模塊之間的直接連接允許數據無縫交換,不再需要寫入內存。此外,優化的DDR帶寬和先進的DMA控制器採用動態流水線處理,可以進一步提高速度,同時降低功耗。

Moshe Sheier表示,NeuPro AI系列可以應用於廣泛的目標市場,從輕量型的物聯網和可穿戴設備(2TOPs)到高性能的行業監控和自動駕駛應用(12.5 TOPs),擴展了各種終端市場的性能。目前已有行業領先的客戶獲得授權,並預計在今年第三季度發佈其產品。

對於在成像、計算機視覺和神經網絡方面均有需求的客戶,則可以選擇CEVA-XM和NeuPro Engine的組合方案。CEVA-XM系列智能視覺處理器和人工智能協處理器能夠更好地在嵌入式設備中實現基於視覺的機器學習。Moshe Sheier舉例說,在今年6月,無人機芯片領導廠商酷芯成為CEVA-XM4平臺眾多客戶之一,AR9X01是酷芯至今設計的最複雜芯片,使用了多個CEVA-XM4內核來分析實時飛行環境,並利用人工智能完成各種任務,包括物體檢測、分類和跟蹤。

“與基於CPU或GPU的替代方案相比,由於CEVA-XM4平臺在運行計算機視覺算法和深度學習推理時的固有低功耗特性,使得AR9X01允許無人機制造商最大限度增加飛行時間並提高整體無人機性能。”Moshe Sheier強調,“CEVA最新一代圖像和視覺DSP平臺不僅可滿足極端處理能力要求,同時降低對於智能手機、監控、AR 和 VR、無人機和自動駕駛汽車等最複雜的機器學習和機器視覺應用的功耗束縛。”

邊緣側AI興起,NN和DL如何實現更智能的互連世界

如今,每年集成了基於CEVA IP芯片的終端設備出貨量在10億個以上。而人工智能仍然是一個新興且快速發展的領域,神經網絡的應用場景快速增加,例如目標識別、語音和聲音分析、5G通信等等。去年CEVA營收為8750萬美元,Moshe Sheier預計,市場研究機構指出到2022年,大約50%的AI設備將內置機器學習功能——如果數據正確,這會是一個相當大的數量。在強大的市場驅動下,今年CEVA營收將達到9200萬美元。

Moshe Sheier強調,CEVA早已經不再是一個只提供DSP核的通信公司,現在的我們為不同的領域提供了更為廣泛的技術。我們將繼續致力於投資下一代計算機視覺和神經網絡的產品開發,特別是潛力無限的神經網絡技術,完善目前產品建立起來的人工智能生態系統。(校對/叨叨)


分享到:


相關文章: