黃仁勳GTC大會推全新處理器DPU,3年運算能力提升600倍

每一屆英偉達 GPU 技術大會(GTC),黃仁勳都很少讓投資者和觀眾們失望,因為產品足夠硬核。

10 月 5 日,2020 GTC 開幕,黃仁勳再次在自家廚房呈現了英偉達年度產品盛宴,從數據中心 DPU 處理器、Jetson AI 開發套件、邊緣計算 EGX AI 平臺到超級計算機等,圍繞 AI 主題,英偉達的護城河不僅越挖越深,且越挖越寬。

最讓業界關注的可能是英偉達與 Arm 的融合後會帶來什麼?2020 年 9 月中旬,英偉達官宣將以 400 億美元收購 ARM 讓芯片行業震動,英偉達是全球 GPU 和 AI 芯片領域的領頭羊,而 ARM 是全球最大的芯片 IP 供應商,全球超過 90% 的手機和平板都採用 ARM 架構,收購帶來的技術整合將如何重構計算市場?

黃仁勳GTC大會推全新處理器DPU,3年運算能力提升600倍

DPU 加碼服務器市場,3 年運算能力提升 600 倍

英偉達正在加速擴張其數據中心業務的雄心,新型處理器 DPU 將從 CPU 上卸下 “關鍵” 的網絡、存儲和安全工作負載,並啟用新的安全和管理程序功能,DPU 亮相代表著英偉達朝著成為 “數據中心規模公司” 的目標又邁出了一步,在其最新的財報中,數據中心的收入首次超過了遊戲銷售。

黃仁勳表示:“數據中心已成為新型計算單元。在現代化、安全的加速數據中心中,DPU 已成為其重要的組成部分。CPU、GPU 和 DPU 的結合,可構成完全可編程的 AI 計算單元,提供前所未有的安全性和算力。”

英偉達推出了兩款 DPU 產品:BlueField-2 DPU 與 BlueField-2X DPU,BlueField-2 DPU 現已開始提供樣品,並將於 2021 年正式上市。

BlueField-2 DPU 集成了 8 顆 64 位 Arm-Cortex A72 內核,擁有 2 個超長指令字(VLIW)加速引擎,以及兩個 100Gb/s 的網絡通道(Mellanox ConnectX 6 Dx NIC),在網絡性能和存儲性能上有大幅提升,並且提供了更多硬件安全功能,包括無代理微分段、高級惡意軟件檢測、深度包檢測和應用程序識別,遠遠超過了純軟件解決方案。

黃仁勳GTC大會推全新處理器DPU,3年運算能力提升600倍

據瞭解,DPU 是一種新型芯片,將英偉達的芯片技術與該公司在 2019 年以 75 億美元收購 Mellanox 所獲得的網絡,安全性和存儲技術相結合,CPU,GPU 和 DPU 可以共同提供一個具有 AI 功能,可編程性和安全性的計算單元,單個 BlueField-2 DPU 可以提供高達 125 個 CPU 內核相當的數據中心服務。

“這使我們擁有了最好的同類服務器。它實際上是採用了所有這些軟件定義的基礎結構,並將其放置在同一服務器中的芯片上。我們相信,DPU 將成為以後每臺服務器的核心,無論運行的應用程序負載如何。”黃仁勳說道。

關於 DPU 的發展規劃,BlueField-2 DPU 現在每秒可以處理 0.7 萬億次操作(TOPS),而 BlueField-2X 及其 Ampere GPU 可以完成 60 TOPS。英偉達估計,到 2022 年,BlueField-3X 將達到 75 TOPS,到 2023 年,BlueField-4 預計將達到 400 TOPS,是 BlueField-2 的 600 倍。

配套的是,英偉達還推出了基於 DPU 的軟件生態架構 DOCA(Data-Center-Infrastructure-On-A-Chip Architecture)。DOCA 架構基於開放的 API,可用於數據包處理的 P4,用於網絡的 DPDK,用於存儲的 SPDK,CUDA 和英偉達 AI。DOCA 可以與主要的 OS 和虛擬機管理程序無縫兼容、集成,而為 DOCA 編寫的程序可以在 BlueField-2 DPU 以及未來所有版本上運行。

英偉達官方表示,DOCA 就好比是服務器領域的 CUDA(統一計算設備架構),CUDA 是英偉達在 GPU 以及 AI 領域大獲成功的關鍵,它包含了 CUDA 指令集架構(ISA)以及 GPU 內部的並行計算引擎,方便開發人員基於最新 GPU 架構編寫程序,DOCA 很大程度上是想複製這種成功經驗,助力 DPU 的崛起。

EGX AI 平臺攻佔邊緣計算

英偉達表示,EGX AI 平臺已經被科技公司廣泛採用,用於企業和邊緣數據中心,該平臺將成為加速數據中心的新組成部分。

2020 GTC 期間,英偉達再次帶來兩款性能強大的 EGX 邊緣 AI 平臺產品:適用於較大型商業通用服務器上的 EGX A100,和適用於微型邊緣服務器的微型 EGX Jetson Xavier NX。

EGX A100 是首個基於 NVIDIA Ampere 架構的邊緣 AI 產品,EGX Jetson Xavier NX 則是全球體積最小、性能最強大的 AI 超級計算機,適用於微型服務器和邊緣智能物聯網盒。藉助於 NVIDIA 邊緣 AI 平臺 ,醫院、商店、農場和工廠可以實時處理和保護來自數萬億個邊緣傳感器的海量數據流,該平臺實現了服務器群的遠程安全部署、管理和更新。

黃仁勳GTC大會推全新處理器DPU,3年運算能力提升600倍

EGX A100 聚合加速器和 EGX Jetson Xavier NX 微型邊緣服務器分別被設計用於滿足不同尺寸、成本和性能需求。例如搭載了 EGX A100 的服務器可以管理機場中的數百臺攝像頭,而 EGX Jetson Xavier NX 則可用於管理便利店中的少量攝像頭。而云原生技術支持能夠確保整個 EGX 產品家族都可以使用同一經過優化的 AI 軟件輕鬆構建和部署 AI 應用。

英偉達官方表示,未來的企業數據中心將不會在一個位置擁有 10000 臺服務器,而是會在 10000 個不同的位置(包括在辦公大樓、工廠、倉庫、基站、學校、商店和銀行中)擁有一臺或多臺服務器,這些邊緣數據中心將幫助支持物聯網(IoT)建設。

為了簡化並確保在這些服務器上大規模部署 AI 應用程序和模型的安全,英偉達還宣佈了一項名為 Nvidia Fleet Command 的新服務早期訪問計劃,該混合雲平臺將邊緣計算的安全性和實時處理功能與遠程管理相結合,並簡化了軟件即服務的工作。

Jetson Nano 開發套件推動 AI 普及化

為了讓新一代學生、教育工作者和愛好者能夠挖掘 AI 和機器人技術的潛力,英偉達發佈了售價僅 59 美元的入門級 AI 開發者套件,進一步擴大了 Jetson 邊緣 AI 平臺的受眾範圍。

Jetson Nano 2GB 開發者套件主要用於在機器人和智能物聯網等領域創建動手項目以進行 AI 教學。為支持這項工作,NVIDIA 還宣佈提供免費在線培訓和 AI 認證計劃。Jetson 社區目前已有成千上萬名開發者提供了大量開源項目、簡略操作指南和視頻,兩者將形成互補。

黃仁勳GTC大會推全新處理器DPU,3年運算能力提升600倍

Jetson Nano 2GB 開發者套件由 NVIDIA JetPack™ SDK 提供支持,NVIDIA JetPack™ SDK 隨附 NVIDIA 容器運行時及完整的 Linux 軟件開發環境。

因此,開發者可以將他們的 Jetson 應用程序及其所有依賴項打包到一個可以在任何部署環境下運作的容器中。它還由 NVIDIA CUDA-X™ 加速計算堆棧提供支持,該堆棧也被用於在自動駕駛汽車、工業物聯網、醫療、智慧城市等領域創造突破性 AI 產品。

Nvidia RTX A6000 和 Nvidia A40 呼之欲出

英偉達還宣佈了兩款專業用途的圖形卡:RTX A6000 和 A40,均採用了最新的 Ampere 架構。有趣的是,兩個型號都具有完全相同的 GPU 配置,即 84 個帶有 GA102 GPU 的流式多處理器。

RTX A6000 是工作站圖形卡,而 A40 是供服務器使用的,因此從技術上講 A40 可以視為 Tesla T4 的後繼產品。不同之處在於,A40 將具有顯示輸出,而特斯拉服務器卡過去沒有提供。RTX A6000 和 A40 配備了四路 DisplayPort 1.4 連接器。

黃仁勳GTC大會推全新處理器DPU,3年運算能力提升600倍

兩款卡均具有 48GB 的 GDDR6 non-X 內存,但是每種型號的規格都有所更改。A6000 具有 16 Gbps 模塊,而 A40 則保持 14.5 Gbps。

全新 NVIDIA RTX A6000 和 NVIDIA A40 將幫助專業人士應對這些挑戰,並解決從臺式機到數據中心的企業工作負載問題。新一代 GPU 基於 NVIDIA Ampere 架構,採用了全新 RT Core、Tensor Core 和 CUDA Core 加速圖形、渲染、計算和 AI,與上一代產品相比增速顯著。

官方表示,RTX A6000 將於今年 12 月中旬上市,而 A40 將於明年年初上市,價格尚未透露。

超級計算機

英偉達還推出了一系列與醫療保健相關的計劃,旨在加快藥物發現,預防醫學等方面的工作。

其一,宣佈與葛蘭素史克(GSK)建立合作伙伴關係,以幫助開發用於疫苗和治療發現的 AI 驅動的實驗室。英偉達詳細介紹了與馬薩諸塞州布里格姆綜合醫院合作建立的 AI 模型,以預測具有 COVID-19 症狀的急診室患者的氧氣需求;其二,英偉達透露,將為英國最快的超級計算機 Cambridge-1 貢獻硬件和專業知識。

黃仁勳GTC大會推全新處理器DPU,3年運算能力提升600倍

英偉達預計將在 2020 年底之前將 Cambridge-1 投入使用。Cambridge-1 是 GSK、阿斯利康、蓋伊和聖托馬斯 NHS 基金會信託基金、倫敦國王學院和牛津納米孔學院的聯合項目,它建立在英偉達的 DGX SuperPOD 架構上,預計將提供 400 petaflops 的 AI 性能和 8 petaflops 的 Linpack 性能,這將使它在全球功能最強的超級計算機 TOP500 列表中排名第 29。

英偉達表示,Cambridge-1 由 80 個 Nvidia Mellanox InfiniBand 網絡連接的 Nvidia DGX A100 系統提供動力,並將成為其第一臺設計用於外部研發訪問的超級計算機,準備就緒後,安裝和啟動只需幾周的時間。

英偉達將向 Cambridge-1 計劃投入約 4000 萬英鎊資金,並提供 Nvidia Clara Discovery 之類的軟件,這是一套涵蓋成像、放射學和基因組學的機器學習醫療保健工具,Clara Discovery 具有經過預先訓練的 AI 模型和特定於應用程序的框架,旨在幫助研究人員構建藥物化合物,開發病原體反應並應對相關挑戰。

黃仁勳GTC大會推全新處理器DPU,3年運算能力提升600倍

最後的最後,黃仁勳透露了將如何打好 ARM 這張牌:首先,英偉達將與 Arm 在 GPU、網絡、存儲方面進行合作;其次,英偉達還將與 Arm 合作為 HPC、雲、邊緣計算和 PC 創造平臺,其中涉及芯片、系統和軟件;最後,英偉達將會把自身的 AI 能力和 RTX 引擎開放給 Arm 平臺,現在這些功能都是 X86 平臺專屬的,Arm 將會成為領先的加速和 AI 計算平臺,幫助英偉達進一步擴大市場版圖。


分享到:


相關文章: