利用人工智慧IP快速構建AI晶片

1982年,當我第一次在半導體行業工作時,我意識到系統設計的複雜性和用於設計它們的工具和系統的技術能力之間的競爭。用於設計下一代硬件的技術總是落後,而它需要被用於構建更大、更復雜的系統。我把它比作一條追逐自己的尾巴的龍。設計師們一直希望他們有下一代的計算能力來設計下一代的硬件。

一直以來都是這種情況。然而,人工智能的出現可能會改變這種狀況。人工智能有一種神奇的能力來解決複雜的問題,而這些問題不能通過更多的處理器、更多的內存和更多的網絡來解決。它是一種用來解決具有大量變量和複雜性能表面問題的特殊方法。

機器學習進入到用於設計SOCs和複雜系統的軟件和工具中並不奇怪。它的最終目的是利用機器學習來設計機器學習系統。這就是最初的人工智能。

SOC設計中最複雜、最不確定的問題之一是互連。很久以前,硬連線互連的能力已經消失了。因此,用於互連塊的片上網絡(NoC)的應用在SOC設計中變得更加普遍。儘管如此,使用自上向下的、用於設計NoC結構的需求驅動工具,在設計有效的NoC互連實現方面仍然存在很大的挑戰。現在,NoCs有路由器,可以動態管理流量。

我最近有機會與Netspeed業務開發副總裁Anush Mohandass交談。Netspeed是NoC IP和開發工具的行業領先供應商。我們談到了他們發佈的Orion AI,這是現在採用機器學習算法的NoC技術。他馬上指出,設計人工智能芯片的挑戰已經導致SOC設計的需求急劇變化。人工智能芯片具有顯著的不同的互連需求。它們有大量的計算元素,這些計算元素有自己的本地內存存儲,這些存儲以一個大致平坦的拓撲結構連接。數據不需要再移動到中央存儲器,也不再通過中央處理器處理。這是一個需要低延遲、高帶寬和高度的靈活性的對等系統。

AI的NoC必須支持多播和廣播數據傳輸。它還需要有過賬和非過賬的交易。非阻塞的QoS也是十分必要的。而人工智能應用程序需要軟件定義的NoCs。Netspeed通過創建物理和功能實現之間的抽象級別的多層協議來實現這一點。

Netspeed的Orion AI是NoC技術的一個飛躍。它提供的可伸縮數據寬度遠遠大於它的前身。它的運行速度為2-3GHz,總線寬度為1024位。它可以支持數千個元素的互連。嵌入獵戶座人工智能的人工智能算法有效地優化了最終實現。這自然意味著它是實現人工智能系統的理想技術。

也許我們還沒有達到機器人制造機器人的水平,但我們肯定已經進入了使用人工智能來幫助構建SOCs的時代。Netspeed公司的獵戶座人工智能(Orion AI)是該技術如何應用的一個極好的例子。


分享到:


相關文章: