一、你怎麼教機器學東西？
Yann LeCun，Facebook 人工智能研究負責人，談論一個軟件課程。
人工智能的傳統定義是機器以通常來自人類的方式執行任務和解決問題的能力。一些我們認為很簡單的任務（如識別照片中的物體，駕駛汽車）對人工智能來說卻尤其複雜。在下國際象棋等任務上，機器可以超越我們，但這些機器受限於其手動編程的本質；一個 30 美元的小工具就可以在棋盤遊戲上擊敗我們，但它不能做到——或學會——其它任何事。
這就是機器學習的用武之地。向機器展示數百萬張貓的照片，然後它就能磨礪自己的算法，提升對貓的圖片的識別。機器學習是所有大型互聯網公司構建其上的基礎，這讓它們可以對搜索請求的響應進行排序、為給定用戶提供建議和選擇最相關的內容。
模仿人腦的深度學習遠遠更為複雜。和機器學習不一樣，深度學習可以讓機器學會關注聲音或圖像中的重要特徵而忽略其它內容——以分層的視角來看待這個擁有無限多樣性的世界。是深度學習開啟了通往無人駕駛汽車、語音識別引擎和醫療分析系統的大門——在腫瘤識別上，醫療分析系統有時候比專家級的放射科醫生做得還好。
儘管已經取得了這些驚人的進步，但我們離與人類——甚至老鼠——一樣智能的機器還有很長的路要走。到目前為止，我們只看到了人工智能所能完成的工作中的 5%。
二、現在到了重新考慮你的職業生涯的時候了嗎？
卡車司機是美國今天最常見的職業之一：數百萬男人女人靠將貨物從一個海岸移動到另一個海岸為生。但很快這些工作就將消失了。更快速、更安全和更高效的自動駕駛汽車將能覆蓋這些同樣的路線。面臨著這種選擇的公司還會選擇昂貴的、容易出錯的人類司機嗎？
這種勞動力的劇變已有先例。在工業革命前，90% 的美國人在農場工作。蒸汽動力和製造業的崛起讓許多人失了業，但同時也創造了新的工作——以及那個時代沒人能想象出的全新領域。這種巨大的改變已持續了兩個世紀；美國有時間適應。農民耕種他們的田地直到退休，而他們的孩子上了學，變成了電工、工廠領班、房地產代理和食品化學家。
我們將面臨的勞動變化，其量級，自 20 世紀 30 年代以來聞所未聞。
卡車司機不會那麼幸運。他們的工作，以及其他數百萬人的工作，很快就會過時。在智能機器的時代，將有大量的個體無法工作、無法賺錢、無法交稅。這些工作者需要接受再訓練——否則就將面臨被冷落的風險。我們將面臨的勞動變化，其量級，自 20 世紀 30 年代以來聞所未聞。
1933 年，富蘭克林·羅斯福的新政為大量失業者提供了救濟，並幫助推動了經濟發展。更重要的是，它幫助我們從農業社會過渡到了工業社會。公共工程管理局這樣的項目通過僱傭失業者建造橋樑和新的高速公路而提升了我們的交通基礎設施。這些提升為後面的激動人心的新技術——汽車——的廣泛採用鋪平了道路。
我們需要更新用於 21 世紀的新政，併為人工智能將創造的新工作建立培訓項目。我們需要重新訓練卡車司機和辦公室助理，讓他們成為數據分析師、旅行優化師和其他我們甚至還不知道我們需要的專業人才。美國內戰前的農民無法想象他的兒子能變成一位電工，現在預言人工智能將創造什麼新工作也是不可能的。但很顯然，如果我們想從工業社會過渡到智能機器時代，一些激烈的措施是必要的。
三、人工智能：就像我們一樣？
人工智能和它們的創造者將能有多相似？
實現人類水平的人工智能的下一步是創造智能機器——而非自動化機器。你的汽車中的人工智能將能把你安全送回家，但你到家之後它卻不會選擇另一個目的地。從這裡開始，我們將添加基本的駕駛能力，以及情緒和道德價值觀。如果我們創造出了能以我們大腦的方式學習的機器，很容易想象他們會繼承人類那樣的品質——和缺陷。但在我看來，「終結者」那樣的場景是非常不可能的。那將需要一個分散的、惡意的實體將惡意的意圖固化到智能機器中，但沒有任何組織能單獨實現人類水平的人工智能，更不要說任何單個的團隊和個人了。打造智能機器是我們這個時代最大的挑戰之一，而且需要國家、公司、實驗室和學術界共享想法。人工智能的進步很可能是漸進的和開放的。——YannLeCun
四、如何掌控機器
Nick Bostrom，牛津大學人類未來研究所創始負責人，談人工智能的存在風險（existential risk）。由 Daniela Hernandez 採訪。
你能談談你正在做的工作嗎？
我們對與「控制問題」相關的技術挑戰很感興趣。你怎麼確保人工智能會做其程序開發者想要其做的事？我們也對當超智能人工智能出現時的經濟、政治和社會問題很感興趣。在應對向機器智能時代的過渡上，哪種政治制度才是最有幫助的？我們如何確保不同的利益相關者會走到一起來做一些能實現一個好結果的事？
你大部分工作都在關注存在風險。你會怎麼向一個五歲孩童解釋這個？
我會說這是一個有可能永久性地毀滅整個人類的未來的技術。對於稍大一點的觀眾，我會說存在人類滅絕或我們實現未來價值的潛力被永久摧毀的可能性。
在幫助減輕人工智能潛在的存在風險上，你認為哪些策略是有幫助的？
研究控制問題會有幫助。在我們弄清楚如何讓機器真正智能的時候，我們應該有如何控制這種東西的想法，怎麼開發它才能讓它站在我們這一邊，具有人類的價值觀而不是破壞性。這涉及到一大堆技術上的挑戰，其中一些我們現在就可以開始研究了。
人的價值觀因人而異。我們如何決定機器應該學習哪一種？
嗯，這是一個又大又複雜的問題：價值觀的巨大分歧和利益衝突的可能性。這在一定意義上是人類最大的尚未解決的問題。如果你對技術進步持樂觀態度，那麼你會認為最終我們會找到如何做到越來越多的方法。
我們征服自然的程度會越來越大。但技術不能自動解決的是衝突和戰爭的問題。在最黑暗的宏觀尺度上，有可能會有人以一種傷害和毀滅別人的方式使用這種先進技術、這種自然之上的力量、這種知識。這個問題不能自動解決。
我們可以如何應對這種緊張狀況？
對此我沒有一個簡單的答案。我認為並不存在容易的技術方法。
一個自編程的代理難道不能將自己從我們施加給它的控制系統的束縛中解脫出來嗎？在某種程度上，人類一直在做這樣的事——當我們做出自私行為的時候。
保守的假設是：超智能人工智能能重新編程自己、能改變自己的價值觀、還能打破我們給它的任何框架。那麼我們的目標是設計它，讓它不會選擇以一種會有害於我們的方式使用這些能力。假如一個人工智能想要為人類服務，那麼，它會給可能引發自己去殺害人類的行為分配一個很低的預期效用。如果你要以合理的方式設定目標系統，就有根本的理由去思考將這些終極決定標準保留下來。
五、讓我們提升我們自己的心智
Luke Nosek，PayPal 和 Founders Fund 聯合創始人，談在人工智能到來前訓練我們自己的智能的必要性
今年早些時候，韓國的圍棋冠軍李世石和谷歌的人工智能計算機程序 AlphaGo 進行了一場歷史性的五局比賽。李世石擁有 18 個世界冠軍頭銜。2016 年 3月 19 日，他輸給了軟件。
今天的高性能計算的強大前所未見。儘管如此，我們仍然離創造接近人類心智能力水平的人工通用智能還相去甚遠。我們還不瞭解通用的、人類水平的人工智能（有時被稱為 AGI 或強人工智能）的工作方式，以及它將會給我們的生活和經濟帶來什麼影響。其所帶來的衝擊可與核技術的問世相比，從斯蒂芬·霍金到埃隆·馬斯克再到 AlphaGo的創造者，每個人都在勸告我們謹慎行事。
與核技術比較帶著指責的意味，但卻是合適的。和核技術一樣，強人工智能的最壞情況也是全球性的毀滅——惡意超級智能對抗人類，並試圖殺死所有人。相反，樂觀的預言卻顯得非常盲目的樂觀（普遍的經濟繁榮、疾病消除），我們可能會因為過於恐懼和樂觀而產生偏見。
強人工智能可以幫助數十億人過上更安全、更健康、更快樂的生活。但要設計這樣的機器，工程師將需要更好地理解——超過目前活著的所有人——一個智能的人類和機器社會所面臨的複雜社會、神經系統和經濟上的現實。而如果我們升級了我們已有的心智，我們將能更好地概念化和創造強人工智能並與其共存。
我們可以將人類智能的提升分為三個階段。第一階段，使用谷歌搜索這樣的技術增強和補充人類心智。這一階段正在進行中。比較一下 1996 年使用借書證的五年級學生和 2016 年在谷歌主頁上的五年級學生——只需點擊就能獲取人類大部分知識。
如果第一階段是關於使用技術補充心智，那麼第二階段就是關於直接放大心智本身。自適應學習軟件能使教育個性化，並能實時對課程進行調整。如果學生表現出色，速度就會加快。如果他或她有些吃力，程序就會放緩、改變教學風格或發信號給教師請求援助。自適應學習和在線教育意味著所有學生一種教育的模式的終結。虛擬現實和增強現實的整合也將以意想不到的方式放大智能。
強人工智能似乎已經遙遙在望了，但目前我們所有的只有人類心智。提升我們自己的智能是創造——併成功與之共存——未來的智能機器的第一步。
六、你不能教機器常識
至少目前還不行。而這是實現真正人工智能的最大障礙。
預測學習（predictive learning），也被稱為無監督學習，是動物和人類認識世界的主要模式。例如句子：「John 拿起他的電話並離開了房間。」經驗告訴你這個「電話」可能是移動款式的，John 通過一扇門離開了。機器則缺乏對世界及其限制條件的良好表徵，絕不可能推斷出那樣的信息。機器中的預測學習——一個關鍵但仍未開發出來的功能——將讓人工智能無需人類監督就能學習，就像孩子一樣。但把常識教給軟件不僅僅是一個技術問題——也是一個基礎科學和數學難題，可能需要幾十年時間才能解決。而在那之前，我們的機器永遠不可能真正智能。——Yann LeCun
閱讀更多 網界觀察 的文章
