"FPGA+雲"高性能


用AI防鯊魚、用AI學寫中國書法、用AI預測人類死亡時間、用AI審判罪犯……在人工智能方興未艾的今天,越來越廉價和普及的AI領域真的是什麼都不值錢,除了想象力。那在這無所不能的AI盛世,一定沒道理讓算力限制我們的想象力,更沒道理讓算力限制了我們的生產力。

從CPU到CPU+,從+GPU到+FPGA

隨著通用處理器(CPU)的摩爾定律已入暮年,從美國的微軟、亞馬遜到中國的BAT、華為,幾乎所有的互聯網巨頭們都在補充他們的標準服務器芯片——CPU,使用可替代的硅來追趕在人工智能領域的急速變化。2012年,微軟開始將支撐了通訊行業二十年高速發展的可編程芯片,即FPGA用在其搜索業務——Bings上,且公佈FPGA相比於CPU在處理Bing 的自定義算法時快出40倍,整個系統比Bing 現有的系統快出兩倍,因此其可以將當前已經投入使用的服務器數量減少一半。甚至在接下來的幾年裡,幾乎任何一個新的微軟服務都會包含一個FPGA。

那麼這個所謂的可編程芯片到底是什麼?據菲數科技創始人兼CEO王文華介紹,2017年是全球超大規模數據中心的“爆發年”,全年新增超大規模數據中心90餘個,總數量超過390個。且2018年也沒有絲毫放緩的跡象。如此海量數據需要計算機高速計算各種矩陣運算、圖像處理、機器學習、壓縮、非對稱加密、搜索排序等。即數據中心優先於人工智能發展,這一點也得到了目前在FPGA領域一枝獨秀的賽靈思的支持。今年3月,其新上任的CEO Victor Peng在採訪中表示,賽靈思已經把數據中心優先放在其三大戰略重點的首位。

而傳統計算機中無論是CPU,還是作為協處理器的GPU ,都屬於馮•諾依曼結構,即指令譯碼執行、共享內存。但由於指令流的控制邏輯複雜,不可能有太多條獨立的指令流。為每一個新問題開發專用的芯片又成本過高,因此,這對硬件算力的性能存在著極大的挑戰。

在以通用處理器計算和特定目的的協處理器計算混合異構工作中,作為有著更加高效的數據處理能力和基礎架構的FPGA,則延續了以“CPU+GPU”的第一代異構計算,形成了“CPU+FPGA”的第二代異構計算。其邏輯是在每一個服務器與基礎網絡連接的地方部署可編程芯片,在數據到達服務器之前提前一步處理它們。

FPGA+雲VS FPGA+端,C端市場VS數據中心

自成立起便定位於異構計算領域的菲數科技,也是國內最早一批專注於雲端異構加速、高性能計算的創業公司,其CEO王文華表示,看好FPGA在異構領域的發展主要是基於以下幾個原因。

首先,FPGA 之所以比 CPU 甚至 GPU 能效高,本質上是無指令、無需共享內存的體系結構帶來的福利。其每個邏輯單元的功能在重編程時就已經確定,不需要指令;其次,對比GPU幾乎只有的數據並行,FPGA則同時擁有流水線並行和數據並行,可以根據處理數據包的步驟搭建出不同流水線,在GPU的計算單元都按照統一步調做相同事情時,FPGA早就已經分散的處理完了;而即使是吞吐量、延遲和功耗三方面都可一戰的ASIC專用芯片,FPGA也因其可以快速更新邏輯、可編程的萬能部署、保持不同服務器不同加速卡的同構性等優勢,解決了前者研發成本高、週期長等問題,在瞬息萬變的人工智能領域減少了投資風險。

比起目前業內為數不多叫得上名字的創企,如深鑑、地平線等將FPGA的業務應用在端,即偏向C端的市場化,菲數科技的業務重心則在是FPGA+雲,專注於數據中心的異構加速解決方案,產品形態包括硬件加速板卡和FPGA加速IP。除了以單個產品切入數據中心的大型B端企業外,菲數已經形成了從硬件板卡,FPGA IP方案到用戶API的完整產品方案。

對此,王文華解釋到,C端市場與數據中心是完全不同的市場,雖然都採用FPGA進行加速,數據中心更多的是關注性能,而C端更多的是關注功耗和成本。因此,FPGA在廣闊的C端市場面臨著眾多ASIC解決方案的激烈競爭,而在數據中心則具有獨特的優勢。

首先,FPGA豐富的互聯接口既適應於數據中心多樣性的業務,也適應於新硬件的引入,如ssd硬盤或是HBM內存等等,具有良好的拓展性;同時它的可重構性,也使得它可以在相同的硬件上實現不同的加速功能。這讓其很好的避免了因業務方向發生變化而被淘汰的情況,減少硬件投資試錯成本;其次,FPGA不需要指令,穩定而又極低的延遲,也適用於流式的計算密集型任務和通信密集型任務;再次,CPU+FPGA的異構模式,既可以保持數據中心的硬件同構性,同時又具有實現軟件定義的能力。

當然,隨著人工智能在端上的下沉應用,對端的計算性能要求也會逐漸向雲端的性能靠齊,因而FPGA在複雜的端設備的應用上(譬如輔助駕駛、機器人、智能攝像頭等等)也會逐步推廣。

芯片國產化進程步履維艱?新興創企征戰藍海市場

事實上,在與通訊基礎網絡的連接上,由於FPGA天然的通訊基因,更是明顯優於其它競爭對手。這種架構上的優勢使其定位並不是某種硬件的替代品,甚至將帶來整個行業的革命。

而此前Grand View Research的分析,2015年全球FPGA總市場規模達 63.6 億美元,預計到2024年將達到142億美元。目前全球玩家都屈指可數的賽道無疑是個新藍海。且由於技術驅動發展,根據此前巨頭的佈局時間和週期,以及菲數即將推出的新產品,目前處於培育期的FPGA異構加速市場極有可能在2019年年初迎來爆發性增長。

除了對市場方向的堅定,還有自身的專業。菲數科技的核心創始團隊全部來自FPGA領域巨頭企業資深人員。創始人兼董事長徐衛根,浙江大學MBA,原UTStarcom研發副總裁,20年+管理及運營經驗;創始人兼CEO王文華,浙江大學碩士,15年+研發管理經驗;技術團隊接近二十人,分別來自美國中國名校、多有UT、華為、諾西等公司多年相關研發經驗。

作為國內最早一批專注於雲端異構加速,高性能計算的創業公司之一,菲數科技在成立之初即與IBM展開合作,2016年成為OpenPOWER成員;2017年10月成為阿里雲異構計算生態共建的合作伙伴之一;其加速板卡的規格,功能以及完善的技術支持已經獲得市場的認可,成為目前的主流產品。

未來在推出人工智能加速平臺1.0後,將會進一步的實現FPGA異構加速的虛擬化和雲化,進一步深耕數據中心異構加速藍海市場。

中國本土綜合實力最強大的大型IT企業之一,同時也是菲數科技的合作伙伴的浪潮集團,其高效能服務器和存儲技術國家重點實驗室陳繼承博士表示,此前GPU趕上了計算數據結構大量調整的好時代,而用硬件適配軟件、且每種軟件都是最優適配方式的FPGA也顯然是下一個爆發點。在目前還未系統建立生態、相對空白的市場中,如何將成千上萬FPGA資源池化實現統一部署、動態重構和如何將單個FPGA虛擬化,實現細粒度資源優化利用進而實現FPGA異構計算的真正落地,是創業公司的重大機遇和挑戰。

另外,浪潮科技作為該領域老牌巨頭,陳繼承也見證了FPGA在雲計算領域的發展,關於對菲數團隊的看好,其解釋到,在芯片國產化進程的今天,創業公司不僅限制較少、也更為熱情,且對比美國科技產業化,方向對、熱情夠的新興創企,成果能更快的被市場認可。

2017年3月,菲數科技曾獲得由中科創星領投的千萬級天使輪融資,目前正在進行1500萬—2500萬的A輪融資,主要用於人員擴充、產品量產、技術研發、業務開拓等。值得一提的是,此前菲數科技已申請4項中國發明專利,一項美國發明專利。儘管賽道因為市場紅利期未到使這個高壁壘的行業玩家多專注在技術上,但從各家創企在知識產權的結果來看似乎並沒有太垂直的成就。這也讓菲數科技深耕在技術領域的專利更具價值。

萬物互聯的時代,數據中心的雲化是未來的趨勢。獨立的、單機模式的異構加速必然要被以FPGA為主體的池化模式所替代。隨著FPGA在數據中心方向的逐步發力,以及相關生態的逐步改善,FPGA成為數據中心的主流硬件平臺,則是一個正在逐步變成現實的趨勢。

卿萃科技整理摘錄

原文地址:卿萃科技FPGA極客空間 微信公眾號


分享到:


相關文章: