人工智能的增長速度比摩爾定律快數十倍


人工智能的增長速度比摩爾定律快數十倍

摩爾定律最初指出了一種趨勢,即集成電路上的晶體管數量每1.5年增加一倍。曾協助推出 GeForce Experience的前NVIDIA工程師James Wang說,人工智能(AI)的發展速度比摩爾定律快5到100倍。

2010年到2020年,花費在AI培訓模型上的計算機處理能力非常強勁的在增長。在下圖中,縱軸是處理能力," Petaflop /天"表示每天每秒執行4萬億次操作。

人工智能的增長速度比摩爾定律快數十倍


自 1958年推出Perceptron以來,處理能力每兩年翻一番,直到2010年左右。

人工智能的增長速度比摩爾定律快數十倍

但是,從2010年到2020年,處理能力正以每年約10倍的速度增長,如下圖所示,比摩爾定律快5倍以上

人工智能的增長速度比摩爾定律快數十倍

諸如 Google的Alpha Go Zero和Tesla的Autopilot之類的大公司正在投入大量的AI開發工作,以期獲得長期的投資回報,自行進行深度學習以及與大學合作進行研究開發正在進行中。

另一個重要的一點是,人工智能深度學習的培訓成本每年下降了10倍。例如,在2017年左右,在公共雲上訓練像ResNet-50這樣的圖像識別網絡大約花費了1,000美元(約合108,00元),但在2019年所需的成本約為10美元。到(約108元)。在下圖中,垂直軸是成本,水平軸是年和月,每個點是Legacy GPU(黑色),表示舊版NVIDIA GPU ,NVIDIA的Volta GPU

人工智能的增長速度比摩爾定律快數十倍

(藍色),Google的Cloud TPU(紅色)。

如果維持從2017年到2019年的成本下降趨勢,到2020年,成本可能會降至1美元。

在下圖中,垂直軸代表成本,水平軸代表年和月。分類約10億張圖像的成本在2017年約為10,000美元,但在2020年僅為約0.03美元已經下降到。

人工智能的增長速度比摩爾定律快數十倍


將與深度學習相關的成本變化率與摩爾定律進行比較,Wang認為其變化是摩爾定律的10到100倍。硬件和軟件的突破使得大幅降低成本成為可能,IC芯片和系統設計技術在2017年至2020年之間發生了巨大的發展,並且專用於深度學習的硬件也已經出現。在做。

下圖顯示了由斯坦福大學基準測試得出的NVIDIA Tesla硬件和軟件的性能評估,其中縱軸為性能改進率,橫軸為NVIDIA Tesla版本名稱。查看下圖左側的圖表,您可以發現Tesla V100的性能比Tesla K80提升了約16倍。

人工智能的增長速度比摩爾定律快數十倍

此外,V100 Tesla TensorFlow和PyTorch中的深度學習框架通過結合新的培訓方法,據報道,在正確的視角下,軟件性能已提高了約8倍。

人工智能的增長速度比摩爾定律快數十倍

同時,硬件成本並沒有下降,而且多年來一直很高。例如,用於數據中心的NVIDIA GPU的價格是過去三代的三倍。自2017年Amazon Web Services推出NVIDIA的Tesla V100以來,該服務的價格一直保持不變。

如果人工智能技術繼續發展,那麼與人工智能相關的公司在全球股票市場中的市值將大大增加。下圖顯示了與信息技術(黑色),互聯網(藍色),人工智能和深度學習(綠色)相關的公司的市值。縱軸表示全球股票市場的份額,橫軸表示年份。截至2019年,人工智能在世界股票市場的市值約為1萬億美元,但到2037年它將擴展到30萬億美元。 Wang推測其市值將比互聯網公司更高。

人工智能的增長速度比摩爾定律快數十倍

鑑於AI的計算能力不斷增強,深度學習的成本不斷下降以及股票市場的市值,Wang表示:``人工智能仍在發展中,並且可能會持續數十年增長。''


分享到:


相關文章: