BigOffer:張潼老師離職騰訊,學術與工業應用相距多遠?

有消息透露,騰訊 AI Lab 主任張潼博士已經離職騰訊,繼任者為騰訊 Robitics X Lab 張正友博士。加入騰訊時,張潼博士曾表示,騰訊的 AI 非常具有想象力,他們將通過構建產學研一體化生態,激發 AI 領域的人才深度研究和探索的機會。目前看來,這一目標遠未達成。

2017 年 3 月 23 日,騰訊官方宣佈,正式任命人工智能領域頂尖科學家張潼博士擔任騰訊 AI Lab(騰訊人工智能實驗室)主任。張潼博士將作為騰訊 AI Lab 第一負責人,帶領 50 餘位 AI 科學家及 200 多位 AI 應用工程師團隊,專注於人工智能的基礎研究,主要包括計算機視覺、語音識別、自然語言處理和機器學習這四個垂直領域。同時,基於騰訊自身的業務需求,騰訊 AI Lab 還會在內容、社交、遊戲和平臺工具型 AI 四個方向進行研發與應用合作。

BigOffer:張潼老師離職騰訊,學術與工業應用相距多遠?

張潼老師離開騰訊的主要矛盾並不在於落地能力,而在於騰訊本身對於AI Lab定位的問題。在AI Lab成立之初,騰訊的口號說的是不做業務、不追求產出,只做基礎研究,從這一點在來說張潼老師是合適的,同時也因此AI Lab的團隊在招人的時候很大程度也是按研究能力而非項目落地經驗來評估的。但這還不到兩年,騰訊卻開始希望AI Lab有所產出,此時的AI Lab一是掛在TEG下面拿不到業務,二是從人員結構上來說確實不一定能做得過落地經驗豐富的業務部門,此時AI Lab的定位就格外尷尬。

另外,有部分答案質疑張潼老師這類做理論的“加各種假設證bound的工作有什麼用”。就以我熟悉的方向舉例,我就知道很多工業界廣泛應用的方法都是從理論界來的(不僅限於張潼老師的貢獻):

  1. SGD是Robbins和Monro於1951年提出來的,純理論推導出來的。SGD廣泛應用於機器學習界是最近十幾年內的事,最主要的推動者是Leon Bottou,特別是今年NIPS test of time award就授予了他的那篇從理論上探討大規模機器學習優化算法選擇的paper。在這方面,張潼老師也有一系列的工作從理論上解釋了SGD算法在機器學習的有效性,我個人認為他也是重要的推動者之一。
  2. 在工業界廣泛應用的RDA和它的變種FTRL算法實際上都來源於Nesterov的工作“Primal-dual subgradient methods for convex problems”,這又是一個純理論推出來的方法。Lin Xiao將這種方法改進並引入了機器學習領域於是便有了RDA,後來根據實踐經驗進一步做了一些改進才有了FTRL。實際上,RDA方法的提出很大程度上是受到張老師的truncated gradient工作的影響。
  3. Adaptive方法的開山之中AdaGrad也是從純理論的角度推倒出來的,paper中寫的很清楚,intuition就是希望找一個scaling來最小化bound。正是借鑑了AdaGrad,才有了深度學習界常用的Adam、AdaDelta等方法。
  4. 深度學習優化算法中常用的momentum的trick也是Nesterov推出來的。他證明了加了momentum後可以有更快收斂速度(即優化中的加速梯度法)。實際上,在這個方法提出的很長一段時間,大家都無法直觀解析他為什麼有效,只是理論證明出來的order好而已。所以我想如果只是一味的通過試驗,也很難想到類似的方法。

我並不是說理論比工程經驗更重要,我認為理論的發展和工程經驗的積累都很重要,而且往往他們會互相促進彼此的發展,不要厚此薄彼,更不要喝水忘了挖井人(一邊用著做理論的人做出來的方法,一邊噴你們做的這些工作除了能水水paper外能有什麼用)。當然,偏理論性的東西要轉換成實際生產力需要更長的時間,如果AI Lab一味追求項目的快速落地的話,張潼老師確實並不是最好的選擇。

導致張老師出走的主要問題在於AI Lab本身在騰訊的定位。在AI Lab剛成立之初,騰訊的口號是不做業務,只做基礎研究和技術積累。但時間長了公司高層也會反思我燒了這麼多錢,這個實驗室能給公司帶來什麼實際價值。企業不是政府辦的研究所,耐心沒有那麼的好,兩三年看不到實際效果可能想法就會動搖。這也是為什麼曾經那麼多IT企業辦的研究實驗室最後只有MSR等極少數能長久的主要原因之一。

實際上,AI Lab內部也有這種危機感,所以也在積極地跟業務部門聯繫爭取部分業務。但大家都知道,騰訊內部不同事業群之間的壁壘是非常之高的,不同事業群經常寧願重複投入資源造輪子,也不願意拿出自己的業務合作。總之,從其他事業群拿業務基本就是一件不可能的事,最終能拿到手的業務少之又少。

所以AI Lab本身也在做一些調整,從以前純發paper,到現在做比如AutoML框架等。但僅憑AI Lab本身、沒有業務部門配合的情況下,手上的資源做這些東西其實是有些吃力的(AI Lab分到每個方向的正式員工也就十來人,每個方向還有不止一個項目在做)。在這樣的前提下,AI Lab的這些東西已經做的算比較優秀的了。

實際上,在張潼老師的努力和影響力的支撐下下,AI Lab已經聚集了在國內來說很頂尖的研究實力。但我個人認為,騰訊如果不從公司層面進行調整,AI Lab永遠都會處於一個比較尷尬的層面。從這個角度來說,在AI Lab做還真不一定有之前在百度的時候過的好。像張潼老師這個級別的人,應該會追求更大的自我價值,不會僅僅用錢來衡量。至少目前來看,學術界更適合他。大概,這就是他離職的核心原因吧。


分享到:


相關文章: