OpenAI背後的領袖:計算機視覺、機器翻譯、遊戲和機器人的變革者

機器之心發佈,來源:AI Frontiers。

第三屆美國硅谷頂級人工智能前沿大會(AI Frontiers Conference) 將於 2018 年 11 月 9-11 日在美國硅谷最高級別會議中心聖何塞會展中心盛大舉行。美國 AI 界領軍人物悉數出席。機器之心專屬折扣碼:P25SYNC。

站在臺上的演講者緩慢而清晰地娓娓道來,所有的 AI 術語在他口中融會貫通,交織在一起,變得簡單易懂。認識他的人並不會感到驚訝,因為他就是這些術語背後的人。但令許多人感到驚訝的是,他還領導著一個收入可觀的非營利組織,其存在的使命是為人工智能不可避免的到來做好充分的準備。

他,是創立並領導 OpenAI 的 Ilya Sutskever,OpenAI 的目標是希望向所有人開放人工智能技術,並確保它在可預見的未來裡是安全可靠的。

創立 OpenAI 以前,Sutskever 經歷了一段漫長的旅程。十六年前,他作為一名本科生就讀於多倫多大學。當時他對人工智能知之甚少,儘管他對計算機已然很著迷。

在多倫多大學,他遇到了 Geoffrey Hinton——深度學習研究的教授和先驅。Hinton 給了 Sutskever 一個研究項目:改進隨機鄰居嵌入算法。該項目是他們合作的開始,Sutskever 的出色表現也給 Hinton 留下了深刻的印象。順理成章的,Sutskever 在攻讀博士學位時加入了 Hinton 的小組。

「多虧與 Geoffrey 合作,我才有機會研究我們這個時代最重要的一些科學問題,並追求大多數科學家都非常不理解,結果卻是完全正確的那些想法。」Sutskever 在接受多倫多大學採訪時說。

AlexNet

2012 年,在 Hinton 的指導下,Sutskever 和博士生同學 Alex Krizhevsky 開發了 AlexNet,它在 2012 年 ImageNet LSVRC-2012 的比賽中脫穎而出。AlexNet 以一種新穎的神經網絡架構在 NIPS 亮相,包含五個卷積層和三個完全連接的層。這篇論文被廣泛認為是一項真正的開創性工作,因為它首次證明了在 GPU 上訓練的深度神經網絡可以將圖像識別任務提升到一個新的水平。

OpenAI背後的領袖:計算機視覺、機器翻譯、遊戲和機器人的變革者

更重要的是,AlexNet 讓 Sutskever 意識到深度學習可以解決任何模式識別問題,只要你有一個深度神經網絡訓練大量的數據。

2012 年畢業後,Sutskever 在斯坦福大學跟隨吳恩達教授讀了兩個月的博士後課程。然後他回到了多倫多大學並加入了 Hinton 的新研究公司 DNNResearch,這是 Hinton 研究小組的副產品。四個月後,即 2013 年 3 月,Google 收購了 DNNResearch,並聘請 Sutskever 擔任 Google Brain 的研究科學家。

Seq2seq 學習

AlexNet 標誌了自 2012 年起人工智能革命的開端。然而,許多領域仍未被深度學習算法所開發,例如自然語言處理。當時,卷積神經網絡(CNN)使用的神經網絡類型與文本等序列數據不兼容。

加入 Google 後,Sutskever 全身心地投入到序列建模問題中,它可以應用於語音,文本和視頻,其中的一個非常實際的應用就是機器翻譯。

2014 年,Sutskever 與谷歌研究員 Oriol Vinyals 和 Quoc Le 一起提出了 Seq2seq 學習(Sequence to Sequence Learning)。它輸入比如一句英文的序列結構,再將其映射到也具有序列結構的一句法文上。

該方法使用循環神經網絡(RNN),也就此開啟了 RNN 廣泛應用於語言任務的時代。他們的研究應用於機器翻譯,並且在大型數據集上,其表現優於基於短語的統計機器翻譯基線。

OpenAI背後的領袖:計算機視覺、機器翻譯、遊戲和機器人的變革者

Seq2seq 學習允許更少的工程設計選擇,並讓 Google 翻譯系統高效準確地處理大量數據集。它主要用於機器翻譯系統,並被證明適用於更廣泛的任務,包括文本摘要,人工智能對話和問答。

2015 年,麻省理工學院技術評論將 Sutskever 評為 Visionaries 類別的「35 歲以下創新者」。

TensorFlow

在谷歌大腦團隊中,Sutskever 加入了 Google 開源庫 TensorFlow 的開發,用於大規模機器學習。

TensorFlow 具有許多便利的功能和實用程序,如今是世界上最流行的機器學習系統。它使用數據流圖來表示計算,將數據流圖的節點映射到集群中的許多機器上,並與各種計算設備連接,包括 CPU,GPU 和定製設計的 ASIC、稱為張量處理單元的 GoogleTPU。

AlphaGo

同樣在谷歌大腦,Sutskever 協助了 DeepMind 的研究人員開發了劃時代的圍棋人工智能 AlphaGo,該系統基於深度神經網絡和蒙特卡羅樹搜索方面進行訓練,並使用強化學習算法自學。

AlphaGo 在 2016 年 3 月的五場最佳對決比賽中擊敗了韓國圍棋大師李世乭,創造了歷史。這款機器首次在最複雜的戰略棋盤遊戲中超越了人類最強大的能力。關於 AlphaGo 的論文於 2016 年在 Nature 上發表,Sutskever 是合著者。

創立 OpenAI

在谷歌,Sutskever 一直不斷地思考著長遠的未來:當人工智能普及之後會對人類產生什麼影響?在人工智能開發的最前沿,他看到了人工智能的能力是如何快速增長的。在不遠的將來,人工智能將取代我們的每項工作。當人工智能能為我們做出重大決策(因為它逐漸接管所有責任)時,人類將會發生怎麼的改變?

偶然的機會,在 2015 年 7 月的一天,Sutskeve 參加了由 Y Combinator 總裁 Sam Altman 在 Sand Hill Road 的一家餐廳舉辦的晚宴,在那裡他遇見了 Elon Musk 和 Greg Brockman。Brockman 後來在他的博客文章中回憶道,「Ilya 是一位知識和願景廣泛的技術專家,並且可以隨時深入瞭解當前系統的侷限性和能力。」

在場的每個人達成了一個共識:人類需要一個組織,一個非營利組織,沒有任何競爭激勵來削弱其實現人工智能的使命;它還需要世界上最好的人工智能研究人員。

Ilya 對他離開谷歌的選擇百感交集。雖然他很享受在 GoogleBrain 的工作,但他想做的更多。2015 年 12 月,他邁出了這一步。

Sutskever 和 GregBrockman(現為 OpenAI 首席技術官)共同創立了 OpenAI,得到來自 Elon Musk,Sam Altman 和 LinkedIn 創始人 Reid Hoffman 的 10 億美元資金,其目標是「以最有可能造福人類的方式推進數字智能並使之成為一個整體」

Sutskever 說:「有可能在我們的有生之年,我們將建立一個在每個有意義的維度上都具有認知能力的人工智能系統。」

領導 OpenAI

OpenAI 吸引了幾位世界知名的人工智能研究人員,包括髮明 GAN 的 Ian Goodfellow,加州大學伯克利分校的 Pieter Abbeel 和目前負責特斯拉人工智能工作的 Andrej Karpathy。

OpenAI 位於舊金山一個不起眼的辦公室,在過去的兩年裡取得了許多驚人的成就:他們創建了一個名為 Universe 的軟件平臺,用於測量和訓練全球各地的人工智能系統。它旨在讓機器人學習不同的策略; 他們創造了人工智能的遊戲玩家,在複雜的多人競技遊戲 Dota2 中,他們有能力擊敗 99.95%全球玩家; 他們還建立了能完成日本相撲摔跤或者踢足球的虛擬機器人。

OpenAI背後的領袖:計算機視覺、機器翻譯、遊戲和機器人的變革者

OpenAI 也在推進機器人研究的前沿。他們將深度強化學習應用於機器人學,以做家務,如干淨的房間或做飯。最近,他們訓練了他們的 Dactyl 手,學習如何旋轉字母塊並將新的一面放在上面。

人工智能安全研究也屬於他們研究的範疇。兩年前,OpenAI 列出了許多關於確保現代機器學習系統按預期運行的研究問題。

在過去的 6 年裡,Sutskever 一直站在人工智能革命的最前沿。他的下一段旅程是傳播這場革命,為整個人類帶來好處,而他的團隊正在推動人工智能的發展來實現強人工智能的終極高峰。他的計劃是什麼?我們可以發展到什麼地步?我們正等著他精彩故事的下一章。

Ilya Sutskever 將於 2018 年 11 月 9 日在加利福尼亞州聖何塞舉行的 AI Frontiers 會議上發言。


OpenAI背後的領袖:計算機視覺、機器翻譯、遊戲和機器人的變革者

AI Frontiers 大會演講嘉賓

AI Frontiers Conference 彙集了人工智能領域的思想領袖,展示最前沿的研究和產品。今年,我們的發言人包括:Ilya Sutskever(OpenAI 創始人),Jay Yagnik(Google AI 副總裁),Lee-Fu Lee(Sinovation 首席執行官),Mario Munich(iRobot 高級副總裁),Quoc Le(Google Brain),Pieter Abbeel(加州大學伯克利分校教授)等。


分享到:


相關文章: