人工智能 (AI) 的研究工作已取得驚人進展，計算機的用途不斷拓寬。機器在執行某些任務時比人類更快、更準確。ILSVRC圖像分類競賽就是一個很好的例子，該競賽使用基於機器學習 (ML) 的人工智能類型。早在2012年，AlexNet就曾贏得這一競賽，成為首個使用深度神經網絡和GPU進行訓練的網絡。到2015年，ResNet-152在圖像分類領域擊敗人類。
▲ 圖1：機器與人類在圖像分類領域的表現
計算機表現優於人類的其他例子還包括遊戲。下面列舉了機器擊敗人類冠軍的一些示例，以及人類表現仍然優於機器的非遊戲案例：
▲圖2：1997-2019年機器與人類在遊戲領域的表現
顯然，機器學習能夠提供一些令人驚歎的新功能，這些功能對於智能家居、智能零售、智能工廠和智慧城市等應用領域而言必不可少，也被廣泛運用於當今眾多行業。比如，雲服務提供商提供的機器學習雲服務（如Amazon AWS SageMaker、Microsoft Azure ML和Google Cloud ML Engine）顯著增長就是一個明顯的例子。
向邊緣推進
此前，由於有大量計算和存儲資源可供使用，機器學習的部署在於運行大型集中式計算機中心的雲端。現在，在多種原因的驅使下，正在迅速地轉向邊緣，例如：
- 雲處理、存儲和帶寬的成本高昂，阻礙將數據發送到雲端以做出由人工智能推動的決策
- 更好的用戶體驗需要在邊緣快速做出由人工智能推動的決策
- 隱私與安全問題限制了在雲端存儲的數據
- 更高的可靠性
基於所有這些因素，對許多應用而言，邊緣端顯然是進行機器學習處理的理想位置。因此，恩智浦宣佈推出i.MX 8M Plus，這是第一款配備專用高性能機器學習加速器的i.MX 應用處理器。i.MX 8M Plus使用14nm FinFET工藝技術，因而具有低功耗和高性能，並具備多項新特性，包括支持兩個低成本高清圖像傳感器或一個4K分辨率圖像傳感器的雙攝像頭ISP，能夠處理人臉、物體對象和手勢識別等機器學習任務。它還集成了獨立的800MHz Cortex-M7（以便處理實時任務並獲得低功耗支持）、H.265和H.264的視頻編解碼、800MHz HiFi4 DSP和用於語音識別的8通道PDM麥克風輸入。工業物聯網特性包括支持時間敏感型網絡 (TSN) 的千兆以太網、兩個CAN-FD接口和ECC。
▲i.MX 8M Plus 應用處理器框圖
數據科學家正在為在邊緣端部署的資源受限型設備優化特定算法，從而幫助加速遷移到邊緣端。MobileNet是Google開發的圖像分類算法，側重於高精度，同時顯著減少所需的計算資源數量。下圖顯示處理任務大幅減少。從VGG-16模型轉而使用MobileNet v2模型可使邊緣端所需的計算量減少50倍。這樣一來，邊緣端的資源受限型硬件解決方案便能夠執行復雜的機器學習處理。
▲圖3：針對邊緣優化的神經網絡算法
同樣，在邊緣手機中運行MobileNet v1明顯比在雲端運行更快。造成這一差距的原因是在邊緣運行消除了雲端網絡延遲。
往返網絡延遲很容易增加200毫秒到1.4 秒以上，響應延遲顯著增加。讓用戶獲得實時體驗，目標是在100毫秒內做出響應。
▲圖4：邊緣提供更快的用戶體驗
下面是藉助i.MX 8M Plus支持在邊緣運行機器學習的部分應用。
如下所示，每個用例需要特定的性能指標，這決定了運行所需的硬件級別。這是i.MX 8M Plus採用專用機器學習加速器的關鍵原因。
▲圖5：機器學習用例
就上述原因而言，在邊緣端運行機器學習應用合情合理。但要成功部署，必須滿足一些其他要求：
- 機器學習開發者生態系統——易於實現
- 硬件安全——保證隱私和安全
- 創新的全新混合SoC架構——提供經濟高效的解決方案
- 可擴展且安全的邊緣部署——便於部署
全面的機器學習開發生態系統：eIQ™
突破性機器學習應用需要一個以任務驅動的生態系統。因此，恩智浦開發了創新型邊緣智能 (eIQ) 工具環境，為客戶提供在包括全新i.MX 8M Plus在內的一系列恩智浦SoC上部署機器學習技術所需的工具。eIQ支持多種機器學習處理元素，包括Arm Cortex-A 和Cortex-M處理器、GPU（圖形處理器）、DSP和機器學習加速器。eIQ機器學習軟件環境包含開源機器學習的推理引擎和庫。恩智浦已部署並優化這些技術，例如TensorFlow Lite、OpenCV、CMSIS-NN和Arm NN，對於熱門i.MX RT應用處理器，這些技術可通過恩智浦的MCUXpresso 和Yocto (Linux)開發環境進行訪問，從而為應用開發提供無縫支持。eIQ軟件附帶物體對象檢測和語音識別示例應用，為在邊緣部署機器學習提供了一個良好的起點。
▲圖6：eIQ 機器學習開發環境
邊緣安全：EdgeLock™
邊緣安全至關重要。所需功能包括安全啟動信任錨、片上加密、安全配置、雙向設備認證、安全設備管理、空中 (OTA) 安全升級更新和生命週期管理。為支持邊緣安全，恩智浦創建了可擴展的EdgeLock產品組合，其中包含安全元件、安全身份驗證器、應用處理器和MCU的嵌入式安全功能。i.MX 8M Plus採用先進的EdgeLock嵌入式安全技術，包括資源域控制器、Trust Zone、HAB、加密啟動、採用RSA和橢圓曲線算法的公共密鑰加密。EdgeLock賦予邊緣節點完整性、真實性和隱私性，從邊緣到網關再到雲，提供充分的安全性保障。
經濟實惠的邊緣人工智能
eIQ工具包為基於CPU、GPU和DSP的恩智浦現有SoC系列帶來機器學習功能。但是，即便是最快的CPU，也難以高效地執行高度複雜的神經網絡。因此，全新i.MX 8M Plus是一個混合人工智能SoC，將先進的嵌入式SoC與最新的人工智能/機器學習硬件NPU技術相結合。於是，用戶能夠同時享受到這兩大技術的好處，既能利用現有SoC應用，還能增加機器學習加速器的巨大並行計算能力。
未來
在人工智能領域，變革速度不斷加快。下面來自AI Index 2018和Monster.com的圖表顯示了深度學習領域就業機會的增長情況：
▲圖7：按所需人工智能技能劃分的就業機會增長 (2015-2017)
公司財報電話會議中提及人工智能和機器學習的次數：
▲圖8：公司財報電話會議提及次數——IT 公司 (2007-2017)
人工智能和機器學習給計算機行業帶來了顛覆性的變化，這一變化將有助於改善我們的生活。在全新i.MX 8M Plus的引領下，通過將人工智能和機器學習移到邊緣，我們將更快地迎來更美好的明天。
閱讀更多 電子工程世界 的文章
