英特爾 Movidius Myriad X VPU是業界首款帶有專用神經計算引擎的SOC，極低的低功耗可穩定高效地在邊緣進行深度學習推理的硬件加速，可用於基於視覺設備的深度學習和AI算法加速，比如無人機、智能相機、VR/AR頭盔。
體積小巧的Myriad X
Myriad X是Movidius VPU系列中的最新一代產品，擁有Movidius的神經計算引擎功能（Neural Compute Engine，一種集成在芯片上的DNN加速器），專門用於嵌入式視覺智能和推理。Myriad X通過合併三個架構元素在低功耗下實現顯著性能，從而在深度學習和計算機視覺工作負載上提供持續的高性能：一系列可編程VLIW矢量處理器，其指令集已針對計算機視覺和深度學習工作負載進行了調整；支持圖像信號處理，計算機視覺和深度學習推理的硬件加速器集合；以及通用的智能存儲結構，最大程度地減少芯片上的數據移動。其小巧的外形和板上處理能力可提供超過4 TOPS的總體性能，除了其神經計算引擎外，Myriad X獨特地將成像，視覺處理和深度學習推理與以下各項實時結合：
- 可編程的128位VLIW矢量處理器：同時運行多個成像和視覺應用程序管道，並具有針對計算機視覺工作負載進行了優化的16個矢量處理器。
- 增加的可配置MIPI通道：多達8個高清分辨率RGB攝像機直接連接到Myriad X，其豐富的接口中包括16條MIPI通道，可支持每秒高達7億像素的圖像信號處理吞吐量。
- 增強型視覺加速器：利用20多個硬件加速器來執行諸如光流和立體聲深度之類的任務，而不會增加額外的計算開銷。
- 2.5 MB片上存儲器：集中的片上存儲器體系結構允許每秒高達450 GB的內部帶寬，從而通過最小化片外數據傳輸來最大程度地減少延遲並降低功耗。
支持OpenVINO
英特爾：OpenVINO工具套件旨在支持用戶快速開發高性能計算機視覺應用，在整個英特爾芯片組合中充分釋放深度學習推理功能，並提供無與倫比的解決方案以滿足其AI需求。新的工具套件還包括三個主要API：深度學習部署工具套件是一種通用的深度學習推理工具套件，可跨英特爾視覺產品進行擴展，幷包含針對OpenCV和OpenVX的優化功能。通過將 OpenVINO工具套件添加到英特爾視覺產品組合以及nGraph等其他AI產品，英特爾提供了最廣泛的功能，可以將從邊緣到網絡的AI解決方案分發到各種產品的雲端。由於OpenVINO與廣泛採用的AI框架兼容，因此開發人員可以無縫、輕鬆地在邊緣部署其應用。
OpenVINO是英特爾推出的一款全面的工具套件，用於快速部署應用和解決方案，支持計算機視覺的CNN網絡結構超過150餘種。OpenVINO是一個Pipeline工具集，可以完成算法模型部署所需要的各種能力。對於AI工作負載來說，OpenVINO提供了深度學習推理套件（DLDT)，該套件可以將各種開源框架訓練好的模型進行線上部署，除此之外，還包含了圖片處理工具包OpenCV，視頻處理工具包Media SDK。
深度學習部署套件DLDT分為兩部分：
- 模型優化器(Model Optimizer)：模型轉換和優化工具。
- 推理引擎(Inference Engine)：推理引擎是部署在設備上運行的AI負載
模型優化器是一個python腳本工具，用於將開源框架訓練好的模型轉化為推理引擎可以識別的中間表達，其實就是兩個文件：xml和bin文件，前者是網絡結構的描述，後者是權重文件。
推理引擎是一個支持C++和python的一套API接口，需要開發人員自己實現推理過程的開發，開發流程非常的簡單。
支持 Widnows ML
Windows 10 中的 AI 平臺使開發人員能夠在其 Windows 設備上的 Apps 中使用預先訓練好的機器學習模型。這為開發人員提供了諸多好處：低延遲，實時結果。Windows 可以使用 PC 的本地處理功能來執行 AI 評估任務，從而實現大型本地數據（如圖像和視頻）的實時分析。可以快速有效地傳遞結果，以用於遊戲引擎等性能密集型工作負載或後臺任務（例如搜索索引）。
Windows ML架構圖
Windows ML中提供了英特爾VPU系統級的支持，將傳統的硬件負載騰出來用於其他工作或減少總體系統功耗。Windows ML和Intel VPU的組合具有實現更智能的客戶端應用程序和核心OS功能的潛力，開發人員能夠使用Windows ML和Intel Movidius VPU構建引人入勝的神奇AI體驗，例如：個人助理，增強的生物識別安全性，智能音樂以及照片搜索和識別。
VPU深度學習開發套件
為了滿足更多人工智能開發者對於視覺計算和深度學習推理計算能力提升的需求，雲歌科技推出了業界首款VPU深度學習開發套件DL-C128，此套件是在Myriad X VPU的基礎上搭載了兼顧低功耗和高性能的Intel Atom x5-E3930處理器，支持擴展ROS/ROS2和YunGe Opensplice DDS等特性，用於快速原型製作。此套件支持Widows /Linux（多版本可選），較低的整體功耗和強大的性能滿足邊緣計算場景下的需求，為你的AI和視覺應用提供強大的算力。通過VPU深度學習開發套件，您可以體驗視覺計算和深度學習推理領域中硬件和軟件方面的技術進步。利用VPU深度學習開發套件，數據科學家和開發者可以獲得所需工具，加速實現視覺領域的未來發展。
VPU深度學習開發套件DL-C128
VPU深度學習開發套件可用於常見的AI應用開發，如：車牌識別、行人檢測、道路場景分割、情緒識別、語音識別等；此外，還可用於加速您的AI和視覺應用。此文給大家分享幾個基於此套件開發的AI案例：
- Squeezenet對象識別
- OpenVINO人臉識別
- YoloV3/tiny目標檢測
- OCR識別
