英國皇家學會院士Peter Dayan和倫敦大學學院計算神經科學教授李兆平夫婦二人在上海論壇2018閉幕式上。
Peter Dayan 為英國皇家學會院士，2017年格雷特·倫德貝克歐洲大腦研究獎（簡稱大腦獎）的獲獎者之一。2018年，當選為英國皇家學會院士。
澎湃新聞：人是生物體，有情感，有創造能力，那麼人工智能是不是更應該和基因技術、神經元、腦科學這些與人類相關的技術相結合?
李兆平：我對基因技術不熟悉，我是做腦科學的，我回答這個問題可能會有點主觀，腦科學是科學，人工智能是工程技術。解決AI最好是用科學的方法去做，當然在不懂科學的情況下，用工程技術也是可以做出有用的AI，就像做一輛馬車，在根本不懂力學原理的情況下，可以做出來一輛很好用的馬車。另外，有用的AI即使沒有情感也關係不大，你看陌生人之間也沒有情感，但也不影響他們之間的交流，只要這個人直來直去表達無誤就好了。
Peter Dayan：用基因方法解決人工智能，有一個正面的因素和一個負面的因素，負面的因素是基因太複雜了，比如跟身高相關的基因就有70個，和一個神經質疾病相關的基因有1000個，雖然你知道這個病的基因根源，但是多達1000個基因關聯，人就沒有辦法去調整基因去治病。正面的因素是，有些東西通過基因遺傳讓人天生就學會了，譬如獅子來了應該要逃跑這些知識，人出生後不用學習就知道。通過這個認識去理解，人做出的很多很重要決策可以從基因層面去理解，這是一個正面的影響。另外，人的情感其實是和基因有很緊密的聯繫。
澎湃新聞：正在播出的美劇《west world》是部關於人工智能的科幻片，劇中描述了意念通過機器輸入大腦的場景，被操控者的人生就是輸入者寫好的劇本，現實中這樣的情況會不會發生？
Peter Dayan：首先，這已經部分發生了，通過臉書之類的社交工具，人們已經被別人操縱，這還沒有用到基因技術。此外，有很多人對一些東西上癮，上癮其實是人的大腦的獎懲系統被控制了，被控制的人就老想去做賭博這些事情。有一個實驗，把一個電極插到小鼠腦子裡，通過電擊讓這隻小鼠經常去做同樣的事情，它就一直喜歡做這個事情，其實是它被人為控制了。通過這個例子我們可以學習大腦是怎麼控制我們的行為。所以從技術上講，控制人的意念是可能做到的。雖然使用這個技術還可以治病，我們通過電擊可以讓有些帕金森患者不那麼抖。這是倫理範疇的問題，但是，技術上的意念控制是可以實現的。
澎湃新聞：我們現在對大腦的認識達到什麼程度？通過現在的研究能不能確定人工智能的研究方向？
李兆平：就像我前面講的，AI人工智能其實是工程問題，腦科學是科學問題，如果要用工程技術去實現人工智能，不一定完全要造成人的樣子，完全可以想造什麼就造什麼。再更高一層，我們要有一個智能的科目，就像生物科目，打個比方，人的智能是一個例子，人工智能是另外一個例子。在我們理解智能科學以後，就可以做出工程上的智能。科學上對智能的理解可以用人作為一個例子去研究，也可以用自己造出來的東西，但是這個是智能科學，有了智能科學就可以去造一個工程上的東西。
澎湃新聞：那能不能說現在我們使用的，工程學意義上的智能還是淺層次的技術。
李兆平：不能說它淺，工程和科學不能比誰高誰低。也就是說機械系和物理系，誰高誰低呢？工程系能造東西，物理系知道運動原理，我覺得這不能比，不能說誰高誰低。但如果知道了原理，可以把東西造得更好，但是不見得一定要知道原理才可以造飛機。
澎湃新聞：直覺是什麼，有時候直覺很有效，怎麼解釋這種很快的思考方式，人工智能可不可以也有直覺？
Peter Dayan：很多決策非常難做，之所以難是因為信息太複雜、太多，最後無法確定哪個方案是好的。所以會出現走近路的思考方式，人會抄近路，機器也會抄近路。但是人抄近路和機器抄近路不一定是同樣的近路。人抄近路有限制，人只吃這麼點飯，能量就這麼點，腦容量就這麼大，而機器可以做很大，也可以有很足的電力支撐它運轉，所以它抄近路和我們不一樣。如果有智能科學，知道原理是什麼，就可以知道人要抄近路該怎麼抄，也可以幫我們決斷該不該買房子這些麻煩問題。同時也可以決定機器抄近路怎麼抄。
澎湃新聞：我的理解人本身是一個生物體，他做決策的過程應該是一個化學或生物的反應，而機器的思考，是物理上一個可重複、可控制過程，這兩套思考方式將來能打通嗎？
Peter Dayan：哲學上有一個功能主義，只要功能能夠實現，靠什麼硬件實現的沒有關係，就像半導體，剛開始是真空管，後來變成三極管，二者硬件是不一樣，但原理是一樣的，所以不能說因為硬件不一樣二者就打不通。飛行如何實現？不管你是用飛機的機翼來飛，還是用羽毛來飛，只要能夠飛，跟他們的硬件不一樣沒有關係。
澎湃新聞：我猜想生物體肯定有情感，有情感的創造和電腦的思考應該是不一樣的，但是電腦不管怎麼進化，怎麼演變都不會有情感吧？
Peter Dayan：要問你一個問題，情感是什麼？
澎湃新聞：情感應該在人思考或者做決策中會發揮立場作用，比如愛、恨。
澎湃新聞：情感能被機器模擬，我有點意外。兩臺同樣的電腦運行同樣的程序，會得到同樣的結果，但雙胞胎他們從生物構成上是一樣的，成長經歷也高度相似，但是一般說來，雙胞胎外貌相似，而性格、才能方面的差別很大。同樣的人和同樣機器為什麼會有這麼大的差異？
Peter Dayan：你說的雙胞胎的經歷相同是你的定義，其實他們是有不同的經歷，會做不同的事情。兩臺機器一模一樣，但如果它們有不同的境遇，它們學習的東西不一樣，最後這兩個機器是不一樣的。其實這和雙胞胎的原理是一樣的，剛開始一樣的雙胞胎最後有了明顯的差別，因為這個過程中肯定會有不同經歷發生，這個雙胞胎給爸爸抱得多一點，那個雙胞胎媽媽抱得多一點，所以他們不能有絕對一樣的成長過程，如果真的能讓雙胞胎的經歷絕對一樣的話，我覺得到最後他們是一樣的。
澎湃新聞：人腦神經電信號這套機制可以用電腦模擬？
李兆平：原理上是可以的，實際操作上要看模擬得多細緻，如果要模擬很細緻是不太可能的，因為在原子、質子層面是不可能模擬得很仔細。比如你可以造出完全一模一樣的房子，但是裡面每一個細節，每一個原子都一樣嗎？那是不可能的，所以就要看做到多細微的程度。
澎湃新聞：馬斯克、陳天橋正在做的腦機結合，這種大腦和物理電信號連接能實現嗎？
Peter Dayan：當然能，技術已經有了，但這還是很粗糙的東西，而且這個技術出現了，並不是說肯定可行，問題在於這種腦機結合的交流是不是人們想要的東西，很糟糕的交流就不是有效的交流。或者可以問另外一個問題，怎麼樣的腦機接口才是人類想要的？因為接口是人和機器的交流，怎麼樣交流才是你想要的。比方說人工耳蝸，電極插在耳蝸裡刺激耳蝸神經元，就可以讓人聽到聲音，這需要人腦學習新信號，要學會適應這些信號就能聽見。這是一個腦機結合非常好的例子，但問題在於這樣的例子能不能推廣到別的地方。
澎湃新聞：發展人工智能過程中的風險是什麼？
Peter Dayan：人工智能以後可能會給我們引起的麻煩，分成兩種，一個麻煩是人工智能比我們更聰明，把人類都控制了；另外一種麻煩，我們什麼活都靠人工智能幫我們做，假如我們靠人工智能來運營核電站，但是人工智能做得很笨，它們把核電站弄爆炸。我認為第二種麻煩的可能性更大，我們太依靠很笨的人工智能來做很重要的事情。有些決定人類自己來做也很難，因為信息量太多，不可能做出一個完全深思熟慮、科學的決定，在這個時候就要必須走近路，但如果幻想讓機器人幫我們做重要決定，機器人也要走近路，但是機器走近路的情況和人走近路是一樣的，所以我們做不好的決定，機器做決定可能也做不好 。
澎湃新聞：很多人說人工智能不能創造、創新，那麼將來人工智能與神經元、腦科學這些生物相關的技術相結合，會不會做出創新創造？
Peter Dayan： 當然，毫無懷疑這個事會發生，就像下圍棋，李世石下的棋就證明機器有創新能力，比人厲害，這個創造力很厲害，所以它已經是能夠做的。
澎湃新聞：下棋是機器人在人的編寫的程序上運行的結果，這個結果是人可以想到但未找到的結果？
李兆平：不是，它做的東西如果人能想象得到，李世石也可以想得到，你說人沒有想到的東西叫創造。它們下的棋就是人沒有想到的，才能把李世石打敗了。阿爾法GO下的棋就是人沒有想到的。你不能說是人輸入進去的程序做的，這是它自己學的，它是用人輸進去的學習方法自己學到了知識，創新出來的東西。
澎湃新聞：阿爾法GO做的那些東西，還是人的方法當中的一種，機器人只是把這些方法找到而已。機器人會自己去做實驗，譬如像一個生物學家一樣去找到一個新的DNA結構？
Peter Dayan：阿爾法GO下的棋，如果是一個人下出來的，你就會覺得這是個創新，其實這個已經是創新了。在下圍棋的情況下，機器可做出人沒有想到的東西。找到DNA也是這樣，怎麼找到DNA是有規則的，要去做實驗，發現很多事實，這和下圍棋的步驟是一樣的，機器也可以去看這個反應是什麼結構，那個是什麼結構，然後找到新的步驟。如果一個人能這樣做實驗，那這個科學家就很厲害了，這就是創新，既然阿爾法·GO可以創新得比人還好，所以機器只要知道做事的規則，這樣實驗一下，那樣實驗一下，照規則就可以做出新的選擇，這就是創新。
澎湃新聞：有可能發現規則嗎？下棋畢竟還是在圍棋的規則裡走。
Peter Dayan：假如有一個領域，可以做完全開放的學習，我們假設讓一個機器人去比賽跑步，它要跑得越快越好，大家都快跑，機器人甚至會想到一個新的辦法，在臨近撞線的時候，機器人倒下去，依靠很長的身高，能更快地撞線，這個就是比你想象得還要新，它能打破規則，機器人肯定會有這些創新。
澎湃新聞：很多中國人都喜歡讀《紅樓夢》，但又很遺憾後四十回續寫得不夠好，機器人會不會續寫出來？
Peter Dayan：為什麼其他的作家不去把後面的內容續寫出來？
澎湃新聞：是有人續寫了，但是續寫的部分跟原著相比，文字的文風、人物命運、還有詩詞等等，都和原著有很大的差異。所以能不能在藝術風格上做出一致的創造呢？
Peter Dayan：原理上機器人應該做得到，因為現在計算機可以作曲了，比如把巴赫很多的曲譜給它學習，然後機器人會作出新曲，跟巴赫的風格都是一樣的。所以我認為原理上可行的東西可以繼續擴大應用範圍，沒覺得有什麼障礙。雖然現在機器翻譯的東西還達不到滿意的程度，但我認為最終應該可以達到較高的水平。我們已經知道人工智能在那些小的機制裡能夠達到我們所期望的，雖然大的方面還沒有達到，譬如機器人可以作巴赫風格的曲譜，這只是一個小的成功，還沒有衍生到大的方面，但我認為應該是可以做到的。就是說你已經在一條路上成功走了一段距離了，而且我也沒有看見前面有什麼障礙能阻擋我走下去，雖然我現在還沒有走到終點，但是原理上來說我是可以走到終點的。
【受訪人簡介】
Peter Dayan為英國皇家學會院士，2017年大腦獎得主，曾在劍橋大學攻讀數學，畢業後於愛丁堡大學師從David Willshaw教授，並取得了物理博士學位。此後，他又跟隨索爾克生物研究所的Terry Sejnowski教授和多倫多大學的Geoff Hinton教授完成了兩個博士後學位。在麻省理工擔任了三年的助理教授之後，Dayan於1998年促成了倫敦大學學院蓋茨比計算神經科學中心的成立。今年他在Uber人工智能實驗室作學術訪問。Peter Dayan於2012年獲得David E. Rumelhart獎，也是2017年格雷特·倫德貝克歐洲大腦研究獎（簡稱大腦獎）的獲獎者之一。2018年，當選為英國皇家學會院士。
Dayan的研究領域主要是神經網絡的數學計算模型，尤其是有關表達、學習和決策的模型。他在最近的工作中集中研究人類和其他動物用於實現獎勵最大化和懲罰最小化的各式行為機制。這些行為機制顯然與人工智能中所流行的算法相似。這種關聯性為我們提供了豐富的途徑，去理解人類及動物的日常行為，也能幫助我們瞭解人們在患上神經功能性障礙和精神疾病時的行為表現。
李兆平系倫敦大學學院計算機系計算神經科學教授，北京師範大學認知神經科學與學習國家重點實驗室訪問教授。李兆平1984年本科畢業於復旦大學物理系，1989年獲得加州理工學院物理博士學位。她曾在美國的費米國家實驗室、普林斯頓的高級研究院和洛克菲勒大學做博士後，在香港科技大學任教，以及在其他一些學術機構做學術訪問。1998年，她參與創建了倫敦大學學院的蓋茨比計算神經科學中心，現在她在該大學的計算機系任計算神經科學教授。她歷年來的科研涉及物理、神經生物學等，但主要注重於視覺、嗅覺和非線性神經動力學，1990年代後期至2000年代早期，她理論提出大腦初級視皮層建立了視覺空間的顯著圖來自動引導視覺注意，領域裡大量的實驗工作正在對此理論做實驗檢驗。2014年，牛津大學出版社出版了她著的《理解視覺：理論，模型和數據》。
閱讀更多 澎湃新聞 的文章
