設計：孫佳棟 微信公眾號：甲子光年(ID:jazzyear)

NovuMind（異構智能）創始人吳韌的臉上常常露出一種“我知道他們都錯了”的微笑。

一個月前，在「甲子光年」採訪各大AI芯片公司時，吳韌曾透露，他們即將發佈的芯片，性能將遠超同行。

美國當地時間1月9日，吳韌如約在CES首次展示了其AI芯片NovuTensor系列首款demo。

吳韌稱，這是目前世界上唯一一款能實際運行的、性能達到主流GPU/TPU、而性能功耗比大大領先的AI芯片——相比目前最先進的桌面服務器GPU，NovuTensor僅使用1/20電力即可達到其1/2的性能。

他補充說：CES展示的僅僅是FPGA版本，等正在流片的ASIC芯片正式出廠，性能將提高4倍，耗電將減少一半。

值得注意的是，吳韌定義了芯片的新物種。

當所有芯片設計者都在傳統二維矩陣結構上“搭積木”時，吳韌推翻了傳統做法，直接從頭搭建了一套新的底層架構：三維張量。

這種做法，捨棄了結構上的大而全，以換取把深度學習的算力逼向極致。

此前，一些業內人士曾向「甲子光年」表示，對NovuMind的技術路徑“看不懂”；吳韌自己也坦言，許多人覺得NovuMind很冒險。

但爭議並不影響吳韌的自信。

“我的芯片是最好的，”吳韌告訴「甲子光年」，“當我們對AI瞭解得足夠深以後，我們敢做別人不敢做的決定。”

NovuTensor現場演示識別效果，每秒識別300張圖像

被忽略的第二個公式

真正的趨勢什麼？吳韌的回答是：異構計算。

在硅谷吃早餐時，他指了指桌上的果醬、餐具：“你信不信，以後這些小東西上可能都會有一個芯片。它們都將是智能的。”

吳韌在人工智能、尤其異構計算方面經驗豐富：1990年赴美，先後任惠普實驗室、CUDA研究中心首席研究員，AMD異構系統首席軟件架構師；2013年加入百度IDL，作為百度“傑出科學家”，率團隊研發了世界最大的專為深度學習定製的超級計算機，刷新了計算機視覺領域記錄。

雷鋒網創始人林軍曾評價他：“高性能計算專家吳韌帶領他的團隊殺到計算機視覺的圈子裡，用他們從來沒有聽聞過的打法讓CV圈內的人有不戰而降的恐懼。”

2014年的GTC大會上，吳韌提出一個公式：

“大數據+深度學習+高性能計算=更高智能”。

這個公式後來出現在各大國際科技巨頭戰略宣傳的話術中。但吳韌告訴「甲子光年」，當時他其實還寫下了第二個公式：

“大數據+深度學習+異構計算=成功”。

“大部分人都沒有認識到第二個公式的重要性。”吳韌說，他們沒有認識到，只有異構計算，才能把深度學習的計算能力推到極致

。

目前，AI芯片軍備競賽已白熱化，鉅額融資，群雄逐鹿，AI芯片已迎來戰國時代（見甲子光年日前文章《芯片戰國時代》）。

所有人都在傳統芯片的矩陣結構上做改造，只有吳韌不是。如果你很熟悉每一塊積木，你就沒必要在已有積木模型上新搭一塊，你可以推翻了從0做起，這樣才能逼近極致。

“對AI瞭解得足夠深以後，我們敢做別人不敢做的決定。”

於是吳韌動起了手術：完全捨棄二維矩陣運算，採取3*3的獨特張量處理架構，只處理三維的深度神經網絡計算——這將大幅提高能耗比和晶片效率。

為什麼這麼做？

他評價其他玩家的思路：“當你的上下游都在別人手上，你唯一的選擇就是滿足每個人的需求，設計變得大而全，浪費了很多非常珍貴的資源

。”

他口中“珍貴的資源”指芯片算力，當你全盤皆顧，不敢捨棄二維甚至一維的計算方式，就束縛了將算力性能逼向極致的可能。

吳韌不願這樣。

NovuMind自然也面臨照顧上下游不同需求的問題，而吳韌之所以敢割捨和聚焦，是因為他確信：深度學習會成為主宰。

“這一輪的進步，在我眼裡就是‘結構’，”異構計算的核心思想，正是不同結構的“術業有專攻”，“比如一些計算明明可以讓CPU做，為什麼要佔用深度學習的計算能力？”

他說，大部分人不敢只做深度學習，是因為他們還沒想清楚深度學習和人工智能的關係。說到這兒，吳韌再次露出一種“我知道他們都錯了”的微笑：

讓深度學習就做深度學習，別用別的東西干擾它。

NovuMind在CES 2018上展示的大屏截圖

虛高的芯片指數

每款AI芯片，總包裹在一系列數字指標中走入我們的視野。

目前，每個玩家都能拿出一手漂亮的數字：比如每秒實現多少萬億次浮點運算，功耗多少瓦，實現多少存儲。

“哪怕是國外半導體行業最頂尖的記者，他還是願意把這個東西歸到一兩個數字來描述，但這樣的評價沒有意義。”吳韌再次顯示了他對主流的漠視。

他打了一個比方：“一個樓可以住1萬人，但是你只修一個電梯，電梯一次只能裝8人，那這棟樓是住不滿的，你的電梯是限制。所以浮點運算並不能說明問題，房間數是一個理論極限值，電梯沒設計好，人是進不去的。回到芯片，就是你數據流不進去，流不出來，光有計算能力是沒用的，所以現在所有人報的數字都是虛高。”

“我們為什麼要做芯片？是要解決具體問題，

你不要浪費。你單位時間或單位用電能解決多少問題？這才是正確的度量辦法。”

吳韌舉例，在計算視覺領域，要看檢測和分類的能力：每秒鐘能識別多少張圖像？每張圖像能檢測多少個目標？

在功耗12w的情況下，NovuTensor每秒可識別300張圖像，每張圖像上，最多可檢測8192個目標——相比目前最先進的桌面服務器GPU（250W，每秒可識別666張圖像），僅使用1/20電力即可達到其性能的1/2；而相比目前最先進的移動端或嵌入式芯片，相同用電的情況下，性能是其三倍以上。

這些指標並不是他自豪的全部。“真正的不同，是我們的視界。我們是領導者而不是追隨者。”

深度學習的暴力美學就是終局

學界一直有種聲音，說深度學習不一定是人工智能的終極解決方案，一部分人正在等待新的理論突破去取代深度學習。有人說，深度學習是大數據處理小問題，人類智能則是小數據解決大問題。

但吳韌卻斬釘截鐵地告訴「甲子光年」：深度學習，正是人工智能的“way to go”，不太可能被新的東西顛覆。

進入餐廳時，門口躍過一隻松鼠。吳韌問我們：“為什麼能認出來這是松鼠？”

實際上，這是一種基於過往認知經驗的“直覺”，而這正是深度學習的方法：

人類通過鑽研棋局、訓練來獲得“棋感”，當遇到類似情況就會做出本能的反應；深度學習同樣如此，通過“見多識廣”，用大數據去訓練“直覺”。

“愛因斯坦說過，真正有價值的東西就是直覺。”吳韌對深度學習的信仰，近乎一種審美的追求。

他說，大多數人都更欣賞一個由因果關係所解釋的世界，比如歐幾里得公理，牛頓定律，自然常數。大多數人期望世界是被少數清晰的底層規律“解釋”和支配的，但他卻更欣賞深度學習的“暴力美學”：

一個黑匣子，裡面有海量的未知參數，通過幾近魯莽“力迫”的大規模數據訓練，這個黑匣子最終產生了表達一切的能力。

吳韌說這不是混沌和複雜，這裡面有真正的簡單：

“如果深度學習能夠解決問題，所有的公式都沒法描述，但所有公式又都被包含，這才是真正的漂亮。”

NovuTensor能將普通電視轉化為8K超高清電視

“不管他以前公司多牛，反正沒我們公司牛”

吳韌在趨勢判斷、芯片設計上大膽、銳氣；與此形成反差的是，NovuMind CES的展臺相比其他公司佈置得很簡單。

CES開幕當天，「甲子光年」花了不少功夫才找到其展臺，場地不大、裝飾樸素，和旁邊幾家中國AI公司形成鮮明對比——吳韌似乎無心參與這場“陣仗競賽”。

在NovuMind展臺，最顯眼的是幾臺顯示器，演示著NovuTensor的圖像識別能力。

吳韌在CES 2018現場為觀眾講解

低調的佈置和NovuMind目前的團隊構成有關，硅谷、北京兩地團隊目前總共50多人，只有6人是非技術人員。總的來說，NovuMind是一家曝光度和PR手段都比較有限的公司。

吳韌承認公司目前在人才結構上的不平衡，他還顧不上太多別的事情，目前，他仍把主要精力放在開發核心技術上。他招人只看重兩點：第一，他要真正熱愛這個事情，要有足夠強的自驅力；第二，他要足夠聰明。

吳韌不太在意這個人之前的經驗：“反正都要教的。”他半開玩笑地說，他不在乎員工以前的公司牛不牛，“反正都沒有我們公司牛。”

從以往歷史看，吳韌挑人的眼光很不錯。他在百度的學生幾乎全部成長為國內一線AI創業公司的中流砥柱。

從左至右依次為：孫剛 (Momenta研發總監、2017ImageNet世界冠軍)、孔暢(商湯科技異構並行計算部門經理)、單羿(深鑑科技CTO)、吳韌、顏深根(商湯科技研發總監)、黨青青(百度)；還有一位吳韌的學生不在圖中：劉文志(商湯科技自動駕駛高級總監)

但在科技行業，如何吸引、留住人才是所有公司的難題。百度的這些學生仍與吳韌保持著很好的關係，但他們沒有一個人加入NovuMind，吳韌也沒打算遊說他們，“他們已經發展得很好了。”

要成就一項偉大的事業，需要極致優秀的人才；而極致優秀的人才，往往在第一天就會被所有對手盯上，並拋出巨大的誘餌。

創立NovuMind以來，吳韌在逐漸學會平靜地面對人才的來去。

第一次有人提出離開時，他經歷沮喪：自己做的事這麼牛，怎麼會有人想走？慢慢地，他開始接受：有人來就有人走，這本是世間常態，並不會對誰特殊。他坦言：“流失率應該說是不低的。”

當「甲子光年」追問這種流失率的來源，吳韌將NovuMind描述為一艘飛速上升的火箭：每個人都在這裡得到提升，而當到達一個高度時，有的人就選擇了離開——從NovuMind離開的人中，有人去了三星，負責與蘋果的移動端GPU競賽；有人去了新加坡，成為智慧國家整體負責人。

他們為什麼不繼續留下來，隨火箭飛往更高的地方？

吳韌搖搖頭：“這也是我的困惑啊。”

“在硅谷2分鐘睡著，回國需要4分鐘”

一個不可否認的事實是，相比國內AI公司估值的快速增長，僅在2016年下旬完成1500萬美元融資（由洪泰基金和寬帶資本領投、真格基金和英諾天使跟投）的NovuMind在這方面並不激進。

NovuMind團隊主要在美國，這是吳韌目前唯一比較擔心的地方：他害怕硅谷的慢節奏會讓公司跑得不如國內同行快。

“我在這邊都是上床兩分鐘就睡著，到了北京要四分鐘，”吳韌苦笑了一下，“國內壓力大啊。”

吳韌計劃在今年加速國內團隊的擴張：除了北京分公司，深圳、廣州也納入考量。

然而，以目前人工智能人才的緊俏程度，擴張意味著支出大大增加。而根據之前另一家AI芯片公司的估計，完成一款芯片的設計、流片、生產就需要1500萬美金——這剛好是NovuMind的A輪融資總額。

好在，NovuMind新一輪融資已基本敲定，第一款芯片的流片雖尚需一個多月才能完成，但客戶的訂單已經有了——吳韌透露，今年芯片銷售一百萬片沒太大問題。

在本次CES上，NovuMind展示的是主要應用於雲端數據中心和開發系統的28nmFPGA芯片；正在流片中的28nmASIC芯片將主要應用於終端的安防、自動駕駛；下半年推出的FinFET(16或14nm)ASIC芯片將作為主打，覆蓋全場景；到2019年底，最新工藝的ASIC芯片將推向市場，同時預計公司達到收支平衡，全部芯片銷量超過1000萬片。

“到那時，才能說我們奠定了自己的行業地位。”

吳韌承認，自己擅長技術，不擅長商業。因此，NovuMind採取了合作的辦法：合資成立國內首家人工智能消化內鏡醫療科技公司「希氏異構」，與華西醫院深度合作，並已經完成3000萬元Pre-A輪融資。

與華西醫院的合作，能夠幫助NovuMind獲取豐富的醫療數據。吳韌說，許多國內的公司，用800份、2000份病歷就訓練出一個模型，準確度根本不夠。谷歌做糖尿病和皮膚癌的診斷，用了10萬份以上的數據，而NovuMind做消化道疾病診斷用了20萬份數據。

未來，在各個垂直領域，NovuMind都可能採用合資公司的辦法，自己專注技術，在商業化上與他人合作。

“這是做技術的樸素邏輯，”吳韌說，“對於核心零部件，當你比所有競爭對手做得都好，客戶就只能選擇你。英特爾如是，英偉達如是，NovuMind也將如是。”

地中海上的思考

骨子裡，吳韌是個技術專家，而不是一位商人。他的自信最初來自技術天賦，如今也表現在對技術道路的堅定上。

文革期間，上小學的吳韌就開始玩無線電：礦石機，一個晶體管，四個晶體管，七個晶體管，不同型號收音機一直往上做。1978年改革開放時，15歲的吳韌靠看電路圖造了一臺電視機，連殼都是自己做的——此前他從未親眼見過電視的實物。

回憶起這段往事，吳韌說：“只要我真正想做的事，就一定能做到。”

但在技術之外，總有事不受“聰明”和“認真”的控制。

2015年6月，ImageNet主辦方宣佈百度在ImageNet測試過程中作弊，違反規則，超過了每週2次的提交。百度隨後承認了違規行為，團隊負責人吳韌被開除。

吳韌的離開在業內引起爭議，一部分人將其解讀成百度的“雙吳”（吳恩達、吳韌）內鬥。

商湯科技創始湯曉鷗曾仗義執言：“實際上這段時間的結果並不是真正意義上的參賽結果，因為比賽是有截止日期的，所以百度並沒有任何競賽中‘作弊’的動作。”

離開百度的吳韌說自己事後反而平和。隨後，他帶著妻子，踏上了地中海郵輪。他們在海上漂流了12天，全程不用手機，吳韌開始思考。

正是在那段時間裡，他想好了接下來要走的路：

未來，智能將更多發生在散落各處的應用端上，高效、節能的本地計算會呈爆發式增長，此刻正是一個窗口期。將來，AI芯片定會“Winner takes all”（冠軍贏得一切），但目前尚未有人佔據主導地位。

他做出了判斷：這個領域一定會有新的巨頭崛起，用異構計算做出真正屬於AI的芯片，

NovuMind可能會贏。

兩年半後的今天，在硅谷，吳韌曾一邊開著快車，一邊告訴「甲子光年」：“前幾天開車太快，got a ticket（吃了張罰單）。”

他說他開車“不喜歡前面有人”，做事也一樣。

“開車是我最放鬆的時候，”他喜歡在開快車的時候思考，“開車是個直覺基本上能搞定的事情，我們的大腦是空出來的。”

我們的對話之中，吳韌多次說到了“直覺”。他對深度學習的直覺，對結構的直覺，對趨勢獨闢蹊徑卻斬釘截鐵的直覺。

正是這種直覺，讓他敢於像一個擁有“棋感”的冠軍棋手一樣“押注”。隨後他想了想，糾正了這個說法：“直覺”一詞不夠準確，實際上是建立在以往經驗上的“Educated Guess”。

AI芯片行業會否是異構計算的天下，新的巨頭將如何崛起，如何變革商業——驗證這個“Educated Guess”，需要一段不短的時間。整個過程，將牽動萬億級的產業，波及上下游諸多競賽之中的變革者和守舊者，並最終影響每個人的日常生活。

—END—