過去兩年的AI芯片浪潮中,相信大家聽得最多的一個詞就是“算力”,這其實無可厚非。因為按照傳統的衡量方法,這個數據是評價一顆AI芯片性能的的最重要指標。但在日前雲天勵飛舉辦的“不忘初芯——雲天勵飛全球首款5AIoT芯片”發佈會上,雲天勵飛董事長兼CEO陳寧博士則表示,想挑戰一下過往芯片產業人士對芯片的理解。
雲天勵飛董事長兼CEO陳寧博士
陳寧指出:“人工智能時代,芯片不再應該單純的追求一顆芯片的算力,因為算力不等於有效算力。在人工智能時代,我們更加關注的是面向場景的有效算力”。
“當下的人工智能還處於一個非常早期的階段,還沒有進入通用人工智能時代,更不存在通用的AI芯片。今天的AI芯片一定是面向場景的AI芯片。面向場景一定離不開工具鏈、算法和芯片緊密的綁定和密切的結合,在不同的場景下這顆芯片能夠提供的有效算力是更有價值的技術指標”,陳寧強調。
為此,雲天勵飛提出了一個“芯片即服務”的概念。按照他們的說法,使用他們的這個服務,可以將AI開發的難度降到零門檻。當然,這一切的基礎就是他們推出的這顆AI芯片DeepEye1000。
397天煉成AI芯
作為一個原本是做軟件和算法的AI公司,雲天勵飛卻選擇進入芯片領域。做出這樣一個決定,用陳寧的話來說,這主要與AI產業的現狀有關。
“在人工智能時代,終端的數量會繼續爆發式的增長,我們認為在五到十年的時間,每一個人將從擁有、使用兩個終端發展到100個終端。換而言之,五到十年的時間裡,我們接入網絡的智能設備數量將是今年的30到50倍。這些暴增的器件背後都有一個共通點,那就是要求有超低成本、超智能、超靈活的系列芯片來滿足設計和應用需求,這是當前的X86或者Arm芯片做不到的,這就是我們加入芯片設計這個領域的原因”,陳寧說。
雲天初芯內部組成
據陳寧介紹,這顆被稱為“雲天初芯”的DeepEye1000歷經397個日夜一次性流片成功。在回片一週,就跑通了人臉識別算法全鏈路;回片一個月之後,跑通了人臉識別業務的完整Demo;回片兩個月,單芯片跑通100萬人像搜索,4K·200人臉抓拍、識別。用陳寧的話來說,這個進度創造了芯片開發史上的奇蹟。
從配置上看,作為一款多核異構並行計算架構設計的芯片,DeepEye1000最值得一提的是其在芯片中內置了自主研發的,採用可重構計算陣列的四核神經網絡處理器NNP220,可支持INT16 / INT12 / INT8混合精度量化數據。芯片的峰值算力可以做到2TOPS,支持靈活可編程計算流。
DeepEye1000的定製指令
另一方面,雲天勵飛還給這個芯片帶來160條以上的深度定製指令集,能支持主流神經網絡模型、支持靈活可編程計算流,計算效率也能超過99%,又因為採用了存算融合體系架構,整個芯片的DDR存儲訪問帶寬下降77%,功耗下降60%。大大滿足多樣化AI應用場景的需求。
在CPU方面,雲天初芯DeepEye1000採用了阿里平頭哥的玄鐵810嵌入式處理器,工作頻率達到1.2GHz,處理器採用RISC指令架構,雙發射10級流水線,性能高於2.5 DMIPS/MHz。此外該芯片還採用了雙核視覺DSP處理器,內置硬件加速運算子ACC,支持超過20個高效算子,每秒可跟蹤1200張人臉。同時,DeepEye1000還擁有強大的視頻處理能力,支持H.264和H.265解碼,可支持4K@30fps視頻、4路高清視頻並行的實時分析,為雲天勵飛的當前業務提供支撐。
為了方便客戶將自己的算法、應用和場景能夠輕鬆移植到芯片上,這就需要強大、通用的工具鏈提供支持,這就是雲天勵飛打造了DETVM開源開放工具鏈的原因,該工具鏈兼容TVM開源生態支持豐富的算法框架,一鍵實現量化編譯和部署,讓算法移植更便捷。
而在芯片和工具鏈的基礎上,雲天勵飛再將算法應用納入考慮,然後提出了“有效算力”的說法,這個再與雲結合,構成了他們“星雲”戰略的起源。
芯片即服務
所謂“芯片即服務”,按照陳寧的說法,這個概念的核心宗旨就是從芯片端到雲端,為雲天勵飛的客戶提供一種AI賦能的服務,讓客戶籍此快速開發出一款又一款的人工智能產品。“這是雲天的初心,也是雲天的願景”,陳寧說。
芯片即服務解讀
雲天勵飛首席科學家王孝宇博士也強調,雲天勵飛“芯片即服務”的目標是讓客戶能夠在一週內完成硬件,一週內適配算法,一週內對接服務,一個月具備完整AI產品服務能力。這就是王博士所說的“雙11開放AI生態計劃”。為實現這個目標,需要雲天勵飛在“芯”、“端”和“雲”提供更完整的服務。
雲天勵飛首席科學家王孝宇博士
首先在端方面,雲天勵飛不但提供了芯片,同時他們還提供了模組、主板和硬件,以多種形態滿足了客戶的需求。但這僅僅解決了端的一部分問題,另外還需要算法、軟件和雲配合,而云天勵飛在這些方面也有自己獨到的想法。
雲天勵飛提供的部分硬件模組
在算法方面,雲天勵飛打造了一個叫做Arctern算法平臺,希望通過其實現算法共享。“因為芯片本身自帶100種以上的算法,那就意味著你在用這個平臺的同時不用擔心算法能力的不足”,王孝宇表示。“與此同時,雲天勵飛還將攜手深圳超算提供算法定製服務,通過今年4月發佈的AIOS進行一站式算法生成,將AI算法定製成本降至1萬元”,王孝宇接著說。
但有了設備端的產品以後,如果不能和雲端通信,如果不能把這些結構化的數據送到雲端,他是不能整合業務的。為此,雲天勵飛又開發了一個叫做商簿(Vesionbook)的業務雲平臺。據介紹,該平臺自帶30種以上的業務場景支持。而你只需要通過幾條指令和雲端通信,自動生成各種業務,不需要你再去開發。
“我們把雲天基礎的業務功能模塊化好,並在這個基礎上提供一個API,讓開發者可以用雲天的API構造自己的應用,而不一定非要接入雲天的業務場景,這樣就會促成千千萬萬種業務場景的開發,真正促進AI產業的發展,這是OPEN API”,王孝宇說。
基於此,雲天勵飛發佈了芯片即服務-人工智能“星雲”生態戰略,本著有朋友有未來的開放理念,攜手海康威視、優必選科技、深圳超算中心、阿里巴巴平頭哥、TCL、京東、深圳巴士集團、邁德威視等8家首批合作伙伴,共同開啟“星雲”生態,加速AI向產業滲透。
雲天勵飛人工智能”星雲”生態戰略
正因為有如此深厚的積累和社會責任感,雲天勵飛承擔了國家人工智能神經網絡芯片的重大課題。按照雲天勵飛副總裁李愛軍介紹 ,他們之所以能夠在層層選拔中脫穎而出,歸根到底是因為以雲天勵飛牽頭的,與9家課題單位共同組成的項目團隊實現了人工智能時代大規模產業化的產學研用的有機整合,具備了人工智能芯片從研發到產業化應用、到國際化標準制定的全產業鏈能力。
雲天勵飛副總裁李愛軍
“展望未來,我們將繼續發揮課題團隊在標準、技術、產業化能力的優勢,打造一個具有國際水準的中國人工智能芯片標準。同時我們會設計出具有自主知識產權、自主可控的人工智能芯片,通過這樣的標準和芯片助力我國人工智能產業化在未來十年大規模發展,推動我國面向2030的人工智能宏偉目標的實現”,李愛軍最後說 。
*免責聲明:本文由作者原創。文章內容系作者個人觀點,半導體行業觀察轉載僅為了傳達一種不同的觀點,不代表半導體行業觀察對該觀點贊同或支持,如果有任何異議,歡迎聯繫半導體行業觀察。
今天是《半導體行業觀察》為您分享的第2129期內容,歡迎關注。
半導體行業觀察
『半導體第一垂直媒體』
識別二維碼,回覆下方關鍵詞,閱讀更多
AI|晶圓|臺積電|射頻|華為|集成電路|TWS耳機|小米
回覆 投稿,看《如何成為“半導體行業觀察”的一員 》
回覆 搜索,還能輕鬆找到其他你感興趣的文章!
閱讀更多 半導體行業觀察 的文章