鄔賀銓:培育AI應用創新 重視AI風險管控

邬贺铨:培育AI应用创新 重视AI风险管控

11月7日,進博會上的谷歌展臺,參觀者以AI技術代替中國傳統皮影,只需手勢就可以在屏幕上喚活出“十二生肖”。中新社記者 張亨偉 攝

中新網11月8日電 “人工智能:融合發展新機遇”論壇8日在烏鎮互聯網國際會展中心安渡廳舉行。中國工程院院士鄔賀銓發表《人工智能的雙刃劍》主題演講。他認為,要培育AI應用創新,同時,也要重視AI風險管控。

鄔賀銓首先介紹了培育AI的應用創新。人工智能有三大支柱:大數據、計算能力、分析算法。我們怎麼教計算機學習?你說什麼是貓、什麼是狗?你說很多東西,它都不知道,我們是輸出一些照片視頻,也許上面有文字,這樣我們就知道它分類出什麼,比如說是貓。同樣的方式,我們可以說通過訓練,也知道這是狗,實際上這裡面所謂人工智能和機器學習實際上是一種通過訓練的方式,通過建模訓練的方式得到的。

人工智能與機器視覺,其實現在可以從機器來識別,當然手機也可以識別,但是手機的二維識別比較簡單,會受到光線、表情等變化,所以我們會利用雲端實現三維識別。

人工智能技術,比如說我們到醫院做一個肺部的CT,可以做出幾百甚至上千張的CT照片,一張張讓醫生來看照片是比較麻煩的,但是可以通過人工智能的技術把所有的CT照片還原為一個肺。我們可以看到,利用人工智能來讀醫療影像數據的正確率比醫生還要準確,很多醫生看不見的癌症,人工智能也能夠看出來。像美國有一箇中學生,通過美國公佈的一些過濾掉敏感隱私的信息,能夠辨別出癌症。

在交通領域也很好地運用了人工智能技術,未來的無人駕駛汽車,可以支撐我們進行無人駕駛,因為有各種的傳感器。

機器人,現在有很多的運用,過去機器人是要預先編程,圖片上的機器手臂沒有預先編程,它看到旁邊人手怎麼動就怎麼動,這是通過訓練達到的。未來一個工廠的形勢,可能是很多的機器人,也沒有必要每個機器人都有大腦,可以把它們的大腦上到雲端,雲端集中管理機器人。

鄔賀銓稱,網絡安全,也是人工智能很重要的應用。一方面,人工智能降低了黑客的門檻。現在更多人學會黑客,以後病毒的變種會越來越多,週期會越來越短,但是從另外一個角度,人工智能也有助於幫助網絡安全的工作。我們發現用人工智能一分鐘就可以完成一個新手安全師一年分析數據代碼的工作量,對於重複性的一些分析工作是有用的。我們可以識別很多偽裝的文件,事實上美國國防部和一個人工智能公司簽過合同,利用人工智能的技術來發現美軍的操作數據庫裡是不是存在編碼的漏洞。就是利用管理,比如說我們希望網絡是乾淨、清朗,但是如果用戶生成的內容,不審查可能會有不良的傳播,靠人審查是比較麻煩的,現在可以利用人工智能的技術,自動過濾圖片、視頻是不是黃色、是不是有暴力、是不是有一些不適宜網上發佈的信息,可以進行文字截取,使人的審核工作量大大降低,這也是人工智能代替人重複性的工作。

現在網上有很多標題黨,現在還有一些在網上發的帖子不是人寫的,是機器寫的,機器可以寫出很多的文章,網絡水軍就出來了,往往利用網絡水軍對每個企業進行負面的發佈,實際上是要你交“過路費”“封口費”,這種方式實際上是一種詐騙。我們需要利用人工智能、機器學習的技術,來發現這種詐騙。當然,這種發現也不是萬能的,它能夠發現50%左右,還得由人來協作。

鄔賀銓表示,要重視人工智能的風險管控。在這裡面我們要建模,進行數據分析,實際上這些都是通過大量建模來分析貓狗的界限,但是一旦這個界限是可以篡改的,可能就搞錯了。比如說,本來是個熊貓,它加一點干擾,可能就變成長臂猿了。所以,數據的準確性就決定了人工智能分析的準確性。

鄔賀銓表示,人工智能的應用才剛剛開始,當前大數據促進了概率計算取得了巨大的進步。人工智能已經在很多領域產生了深刻的影響,但是目前人工智能的發展還處於起步階段,深度學習目前的實質是通過將曲線彌合的數據,通過離合數據實現分類,但是在相關性上有進步,在因果關係上目前還是無能為力的,更多的希望要寄託在人工智能的進步上,而人工智能的雙刃劍特徵會愈演愈烈,需要從法律、技術各方面揚長避短。


分享到:


相關文章: