他25歲進貝爾實驗室,32歲提信息論,晚年患阿茲海默

整理 | 琥珀出品 | AI科技大本營(ID:rgznai100)

有人說:現在的創新主要是把幾十年前的理論成果,通過技術和工程來實現。如今產業發展遇到了瓶頸,需要新的理論突破和基礎技術的發明。人類的文明和技術不斷推進,舊的不去,新的不來,如何才能剔除那些阻礙我們進步的絆腳石,為人類提供新的發展空間呢?

1956 年達特茅斯會議被廣泛認為是 “人工智能(Artificial Intelligence)” 概念誕生的標誌性事件,會議的主要發起四人組分別是:約翰 · 麥卡錫(John McCarthy)、馬文 · 閔斯基(Marvin L. Minsky)、Nathaniel Rochester、克勞德 · 艾爾伍德 · 香農(Claude Elwood Shannon)。然而,就是這樣“一小群”科學家發起的會議催生了後來為人們所認知的人工智能革命,其中討論的關於自動計算機、如何為計算機編程使其能夠使用、語言神經網絡、計算規模理論、自我改造、抽象、隨機性與創造性等議題,直到如今都是人工智能領域致力於積極解決的難題。

今天,我們就來講講會議發起人之一的克勞德 · 艾爾伍德 · 香農(Claude Elwood Shannon)。

他25歲進貝爾實驗室,32歲提信息論,晚年患阿茲海默

大家都知道計算領域最高獎項是圖靈獎, 從 1966 年起,由美國計算機學會(ACM)為了紀念圖靈的卓越貢獻而設立。不久前頒給深度學習三巨頭 Yoshua Bengio、Yann LeCun、Geoffrey Hinton 的獎項正是圖靈獎。同樣,在信息領域,為表彰做出卓越貢獻的科學家和工程師,香農獎的地位同樣重要。

在首屆 IEEE 學會設立的香農獎項頒獎典禮上,香農領取了以自己名字命名的香農獎。

美國數學家、電子工程師和密碼學家,被譽為信息論的創始人……

1937 年,21 歲的香農在其碩士論文中提出,將布爾代數應用於電子領域,能構建並解決任何邏輯和數值關係,被譽為有史以來最具水平的碩士論文之一。1948 年,香農發表了《通信的數學理論》論文,提出了信息熵的概念,並創建了信息論。

現在天才這個詞用的太隨意,實際上天才是很少見的,真正配得上這個詞的人不多。實際上,香農的學術貢獻已經不需要世人再多贅言了。

除了是信息論之父外,香農還是一位投資人、發明愛好者、解謎愛好者和愛搞惡作劇的人。

還有一則故事是,香農竟然是托馬斯 · 愛迪生的遠方親戚。

再回到 1956 年,麥卡錫邀請他一同發起達特茅斯會議時,香農已是貝爾實驗室的頂尖級大佬了。

有人總結道:“由香農所開創的信息論,不單單是信息通信科學的基石,直至今日,仍然是是深度學習的重要理論依據。信息論綜合運用了微積分、概率論和統計學等諸多學科,在深度學習中,也起到了非常重要的作用:如常見的交叉熵損失函數;在最大信息增益的基礎上構建決策樹;在 NLP 和演講中廣泛使用的 Viterbi 算法;在機器翻譯中常用的 RNN 和各種類型的模型中普遍使用的編碼器和解碼器等。”

近日出版的《香農傳》一書,全面回顧了香農精彩的一生。從 0 到 1 開創信息時代,將一切信息完全抽象為比特,將一切信號都用 0 和 1 進行編碼,一個非常了不起的突破。

試想:如何將一段視頻壓縮至 50% 以上,同時不損失任何信息,但壓縮也是有限度的,更高的壓縮會使文件下載和分享更為方便,但壓縮後的文件質量會永久受損?

毫不過譽地講,如果沒有這個理論,也就沒有了標準壓縮圖片、或是壓縮文件、高清電影、數字通訊等。但它的影響遠不止此,儘管信息的數學理論無法說明任何關於數據的意義,但是它打開了一種新的可能,關乎我們如何理解自身,使得我們都能夠用數據測量和編碼。

或許,會有人追問誰才是真正的人工智能奠基者?是約翰 · 馮 · 諾依曼?還是艾倫 · 圖靈?說實話,缺了誰都不行。

1916 年 4 月 30 日,香農出生於美國密歇根州一個叫做 Gaylord 的小鎮,1936 年獲得密歇根大學的數學與電氣工程學士學位 ,1940 年獲得 MIT 數學碩士和博士學位,1941 年進入貝爾實驗室工作。晚年,香農患上阿爾茲海默症,在與病魔抗爭了很長一段時間後,2001 年 2 月 26 日,香農逝世,享年 84 歲。

忘了說一句,今天是 4 月 30 日,也是信息科學之父香農的 103 週年誕辰。

生日快樂,香農!


分享到:


相關文章: