興也勃焉,亡也忽焉:人工智能的潮起潮落

即使我們可以使機器屈服於人類,比如,可以在關鍵時刻關掉電源,然而作為一個物種,我們也應當感到極大的敬畏。

——阿蘭·圖靈

新的起點

1956年達特茅斯會議後,人們懷著極大的熱忱投入到人工智能的研究中。在較短的時間內,符號主義和連接主義相繼取得理論上的重要進展,人工智能研究獲得了以DARPA為代表的政府部門的資助,相關的技術突破開始層出不窮。到20世紀80年代,專家系統的誕生,使得人工智能技術首次實現大規模商業化,人工智能的發展受到了極高的關注。2016年,谷歌圍棋程序AlphaGo戰勝李世石後,人工智能再次得到了產業界、學術界、資本界以及各國政府的高度重視,發展進入“快車道”。


興也勃焉,亡也忽焉:人工智能的潮起潮落

但人工智能的發展並非一帆風順。達特茅斯會議後的60多年中,人工智能的發展就經歷了三個階段,分別是邏輯推理(1.0時代)、知識工程(2.0時代)和機器學習(3.0時代)階段。其中,每個階段都伴隨著重大的技術突破而掀起熱潮,在短短時間內就獲得空前的關注、充足的經費,引發人們的無限想象。但正因如此,一旦期望落空,人工智能就慘遭鄙棄,研究經費被大幅削減,許多話題也成為笑柄並被遺忘。在前兩個階段中,人工智能的發展軌跡就如過山車一般,快速躍起,又快速衰落,正所謂:“其興也勃焉,其亡也忽焉。”



人工智能1.0時代:推理與搜索佔據主導

達特茅斯會議後的20年,是人工智能1.0時代。在這一時期,符號主義幾乎主導了人工智能領域的研究,推理和搜索成為人們的主要研究對象,啟發式搜索、知識表示和機器翻譯等技術獲得了很大的發展。

興也勃焉,亡也忽焉:人工智能的潮起潮落

人工智能發展經歷三次浪潮

資料來源:北京前沿國際人工智能研究院.北京人工智能產業發展白皮書.2018.

歷史總是相似的。如同60年後AlphaGo圍棋程序引起的轟動一樣,1956年IBM公司科學家亞瑟·塞繆爾在電視上首次展示了會下西洋跳棋的人工智能程序,給當時的人們留下了很深的印象。塞繆爾的跳棋程序運行於IBM 704大型通用電子計算機上,它可以記住17500張棋譜,在實戰中能自動分析哪些棋步源於書上推薦的走法,準確率達48%。很快,跳棋程序就戰勝了塞繆爾本人,到1962年它甚至擊敗了美國一個州的跳棋冠軍。

塞繆爾的跳棋程序或許是人工智能應用第一次進入大眾的視野,它的基本原理是“搜索式推理”算法。就像走迷宮一樣,“搜索式推理”系統在執行遊戲時一步一步搜索著前進,遇到死衚衕就換條路。這種方法也被稱為“樹搜索”。這種“搜索式推理”系統隱約具備了人工智能的雛形,但在解決實際問題時卻存在諸多困境。一旦“迷宮”過大,盲目式搜索(暴力計算)的效率過低,走完“迷宮”所花的時間就太長。鑑於人工智能1.0時代的計算效率低下,處理稍微複雜一些的問題時,盲目式搜索就顯得力不從心了。


興也勃焉,亡也忽焉:人工智能的潮起潮落

亞瑟·塞繆爾和他的跳棋程序

為了解決這一問題,科學家尋求“啟發式搜索”方法來減少計算量,去掉那些不太可能找到出口的“迷宮”路線。所謂啟發式的搜索,就是利用常識或者邏輯推理來迅速縮小搜索範圍,這與人類的思維方式類似。在解決實際問題時,人們通常不會尋求全局最優解,而是尋求可以用的結果(滿意解),因此很快就能在浩如煙海的結果中找到自己想要的。紐厄爾和司馬賀研發的“邏輯理論家”和“通用問題求解器”(general problem solver,GPS),IBM公司赫伯特·格林特(Herbert Gelernter)發明的“幾何定理證明機”,都屬於“啟發式搜索”領域的出色成果。

當時,“啟發式搜索”最成功的應用領域是機器定理證明。1956年,“邏輯理論家”程序可用來證明羅素、懷德海所著《數學原理》中的許多定理。1959年,“幾何定理證明機”能夠做一些中學的幾何題,速度與學生相當。1960年,美籍華人科學家王浩在IBM 704機器上編寫程序,證明了羅素、懷德海《數學原理》中的幾乎所有定理。

符號主義在當時的發展勢頭非常好,除“啟發式搜索”外,自然語言處理和“微世界”等領域也取得了相當的成就。如麻省理工學院科學家約瑟夫·魏澤堡(Joseph Weizenbaum)開發的聊天機器人“Eliza”、明斯基的學生丹尼爾·鮑勃羅(Daniel Bobrow)創建的自然語言理解程序“STUDENT”。這些工作為今後自然語言處理、模式識別和強化學習等技術的發展奠定了堅實的基礎。

這一時期,連接主義也取得了相當重要的進展。1957年,美國康奈爾航天實驗室科學家弗蘭克·羅森布拉特(Frank Rosenblatt)參考生物學原理,在IBM 704計算機上實現了“感知機”(Perceptron)模型。感知機是一種簡單的神經網絡結構,與多層神經網絡的“輸入層—隱藏層—輸出層”結構不同,它只包含輸入層和輸出層。其中,輸入層用於接收外界信號,輸出層則是McCulloch-Pitts神經元(閾值邏輯單元)。

羅森布拉特第一次用算法精確定義了神經網絡,儘管感知機結構簡單,卻已經能解決一些簡單的視覺處理任務了。羅森布拉特的工作得到了美國海軍的資助,在當時引起了不小的轟動。

興也勃焉,亡也忽焉:人工智能的潮起潮落

感知機(Perceptron)原理示意圖

但感知機的侷限性也很明顯,其過於簡單的結構在處理非線性問題時就力不從心了。明斯基和西蒙·派珀特(Seymour Papert)就對這一算法產生了強烈質疑。1969年,明斯基和派珀特合作撰寫了《感知機:計算幾何簡介》(Perceptrons)一書,抨擊感知機存在的兩個關鍵問題:一是受硬件限制,感知機所需的超大計算量無法實現;二是感知機連最基本的布爾函數異或運算(XOR)都做不到。因為受到明斯基等“大牛”的嚴厲批評,連接主義此後並沒有興起太大的波瀾,研究很快就陷入了沉寂。

在人工智能1.0時代,符號主義一派的許多技術突破,使得人們對人工智能的發展非常樂觀,一些政府部門也樂於投資人工智能研發。例如,美國國家研究委員會資助了俄語論文翻譯項目,DARPA開始無條件地資助麻省理工學院、卡內基梅隆大學和斯坦福大學等。但好景不長,人們很快就發現人工智能系統在解決實際問題時難以奏效,西蒙和紐厄爾等名家的許多美好預言都沒有實現。

興也勃焉,亡也忽焉:人工智能的潮起潮落

《感知機:計算幾何簡介》再版封面

1973年,英國數學家詹姆斯·萊特希爾(James Lighthill)受英國科學研究委員會委託撰寫了《萊特希爾報告》,批評人工智能無法實現其宏偉目標,尤其指出了當時的人工智能對“組合爆炸”問題無可奈何。英國政府隨即取消了對人工智能的資助。幾乎同時,DARPA對卡內基梅隆大學的語音理解研究項目深感失望,從而取消每年300萬美元的資助。在很短的時間裡,針對人工智能的資助幾乎全都消失不見,這就是所謂的第一輪人工智能寒冬。



人工智能2.0時代:專家系統引領商業潮流

在人工智能1.0時代,人工智能主要通過搜索和推理等規則來處理問題,因此只能解決走迷宮、下跳棋等簡單問題,並沒有太多商業化的空間。到了人工智能2.0時代,專家系統可以包含某個領域大量專家水平的知識或經驗,用於處理這個領域中普通甚至是困難的問題。換句話說,專家系統能夠根據該領域已有的知識或經驗進行推理和判斷,從而做出媲美人類專家的決策。

從此,專家系統得到了產業界的廣泛關注,很快就實現了商業化。

1965年,斯坦福大學教授愛德華·費根鮑姆(Edward Feigenbaum)作為知識工程的倡導者和實踐者,與遺傳學家、諾貝爾獎得主約書亞·萊德伯格(Joshua Lederberg)等人合作,開發出了世界上第一個專家系統程序DENDRAL。DENDRAL內嵌有化學家們的知識和質譜儀的數據,可以根據有機化合物的分子式和質譜圖,從海量的分子結構中判斷出哪一個是正確的。DENDRAL的原理並不複雜:首先利用質譜數據和化學經驗對可能的分子式形成若干約束(縮小範圍),然後根據約書亞·萊德伯格的算法從中計算出可能的分子結構,最後利用化學家的知識對計算的結果進行驗證,得到分子結構圖。


興也勃焉,亡也忽焉:人工智能的潮起潮落

專家系統DENDRAL的工作流程

DENDRAL成功驗證了費根鮑姆關於知識工程理論的正確性,不愧為人工智能研究的一個歷史性突破。隨後,費根鮑姆領導的研究小組就開始探索專家系統在其他人類專家知識領域的應用,成功為醫學、工程和國防等部門研製出一系列實用的專家系統。其中,醫學專家系統MYCIN最負盛名。20世紀70年代,斯坦福大學博士生愛德華·肖特立夫(Edward Shortliffe)在布魯斯·布坎南(Bruce Buchanan)和費根鮑姆等人的指導下,利用LISP語言寫出了用於診斷血液傳染病的專家系統MYCIN。MYCIN具有450條規則,其推導患者病情的過程與專家的推導過程相似,因此可以在部分程度上替代人類。實驗證明,MYCIN系統開處方的正確率達到了69%,這要比初級醫師的表現更好,但與專業從事細菌感染的醫師(正確率80%)相比還是差了一些。

儘管當時專家系統還有這樣那樣的缺陷,但其在很多特定領域已經達到了專家水平,具備了商業化潛質。1980年,卡內基梅隆大學給美國數字設備公司(DEC)設計了名為XCON(eXpertCONfigurer)的專家系統。作為當時的一家初創公司,DEC意圖生產小型機來挑戰行業巨頭IBM。而配備XCON的小型機確實給了IBM當頭一棒。當用戶購買了DEC的VAX系列計算機時,XCON可以按照需求自動配置零部件,從而大幅降低公司的運營成本。到1986年為止,XCON每年可為公司節省大約4000萬美元;到1988年為止,DEC公司已經部署了40個專家系統。可以說,XCON的成功為DEC公司的商業輝煌奠定了基礎,而DEC的成功也成就了風險投資人。

興也勃焉,亡也忽焉:人工智能的潮起潮落

DEC公司的VA犡11/780型計算機

1981年,日本經濟產業省宣佈將研製第五代計算機,並在第二年制訂了“第五代計算機技術開發計劃”,計劃在10年內投資1000億日元(約合9.4億美元),目的是製造一個將信息採集、處理、儲存、通信等功能與人工智能結合在一起的智能計算機。按照設想,第五代計算機能夠主動與人對話,主動對知識進行處理,並進行自主學習,能夠翻譯語言、解釋圖像,像人一樣進行推理。日本的這一計劃思想很超前,給當時的美國政府和英國政府相當大的壓力。作為回應,英國《阿爾維報告》(“Alvey Report”)恢復了因《萊特希爾報告》而停止的投資,美國DARPA也重新增加了對人工智能領域的投資。

由於商業化的快速發展,人工智能開始變得非常熱門。從1980年到1988年的短短數年,人工智能產業價值就暴增了上千倍,達到了數十億美元,包括幾百家公司研發專家系統、視覺系統、機器人以及服務這些系統的專門軟件和硬件。人工智能的發展看似又重新回到了巔峰。但隨之而來的,是第二輪“人工智能寒冬”。一是,蘋果和IBM臺式機的高性能使運行Lisp語言的機器失去了存在的價值;二是,專家系統難以升級維護,其實用性僅僅侷限於某些特定領域;三是,第五代計算機計劃失敗,人們已經意識到理想與現實的巨大差距。自此,人工智能領域的研究經費大幅縮水,寒冬再一次降臨。甚至“人工智能”一詞本身都成了社會討論的禁忌。

而與此同時,連接主義一派取得了重大的理論突破。1982年,美國生物物理學家約翰·霍普菲爾德發明了新型的異步網絡模型,後被稱為“Hopfield網絡”。1986年,美國心理學家大衛·魯梅哈特(David Rumelhart)和加拿大計算機科學家傑弗裡·辛頓重新提出了反向傳播(BP)算法(1974年保羅·沃伯斯就提出了,但未受到重視)。這些發現使沉寂多年的連接主義重獲新生,為人工智能3.0時代的到來奠定了基礎。



深度學習再領風潮:人工智能3.0時代

在以搜索和推理為主導的人工智能1.0時代、以知識工程為主導的人工智能2.0時代,計算機的運算性能還過於弱小,互聯網還處在萌芽狀態。那時,人們試圖用簡潔優雅的符號來模擬智能的過程,用專家知識來建立一個通用的人工智能系統,卻全然不知高性能計算、大數據爆發的新時代即將來臨。在海量數據的強烈驅動下,人工智能方法論由前期的推理、演繹,逐漸轉變到了歸納、綜合。於是,人工智能的發展從知識工程時代進入到機器學習時代。

自20世紀90年代以來,機器學習領域相繼誕生了卷積神經網絡(CNN)支持向量機(SVM)隨機森林(RF)循環神經網絡(RNN)等一系列算法,在語音識別、圖像識別、人臉檢測、自然語言處理、推薦系統和垃圾郵件過濾等領域獲得了實際應用。從此,基於機器學習技術的人工智能應用就遍地開花了。

直到2012年,深度神經網絡獲得突破,人工智能進入了深度學習時代。神經網絡再次捲土重來,主導了人工智能領域的發展。


分享到:


相關文章: