《全球產業展望》預計，到2025年，全球的個人智能終端超過400億個，即平均每個人能擁有五個以上的智能終端。圖為法國里昂創新機器人展中的機器人。 （視覺中國/圖）
（本文首發於2019年11月14日《南方週末》）
“機器比較善於尋找答案，但它不太善於提出問題，提出問題是人類智能一個很重要的表現形式。”
最初楊瀾提出拍攝人工智能專題時，團隊人員感到訝異，身邊的人也大都持懷疑態度——“這是什麼東西？做它幹嗎？你應該去研發一檔新的選秀或真人秀”。只有科學家們說，“太好了，你們真應該做這個”。
當時人工智能對大多數人來說仍是一個陌生的詞彙，直到2016年，韓國棋手李世石敗給人工智能Alphago，人工智能才逐漸為大眾熟知。
《探尋人工智能》第一季播出時適逢中國棋手柯潔即將對戰Alphago，楊瀾接受南方週末記者採訪時預測，柯潔未必沒有勝算：“人類有出奇制勝和不按常理出牌的能力，哪怕贏一局，我覺得也是贏。”
最終，柯潔一局也沒有贏。他後來形容“實在是太絕望了”。自從Alphago領先，柯潔就徹夜未眠，“我一直在想我如何才能贏了它，它會不會有什麼漏洞，哪怕是撿一盤也好啊！”直到Alphago在最後一局下出關鍵一步，柯潔渾身顫抖，知道自己已經失敗，衝出對局室，在一個無人的角落哭起來。
其實在1998年，楊瀾已“預測”過類似的交鋒。Alphago的前身“深藍”戰勝了國際象棋冠軍卡斯帕羅夫後，楊瀾採訪圍棋國手常昊。她預言，機器可以在象棋裡打敗人類，但在圍棋中做不到——圍棋的變化達到10的172次方，甚至多於所知宇宙中的原子數量。
“在這兩次博弈類的人機對抗中，我都預測得過於樂觀，或者說過於偏向於人類，這說明了‘深度學習’的發展速度之快。”楊瀾對南方週末記者說，“但是另一方面，我也堅信人類更為複雜的智能活動，還是具有不可取代的優勢。”
第一季剛播完，人工智能的應用就鋪天蓋地地來了。製片人黃桂香告訴南方週末記者，他們原本把這檔紀錄片看作科普性質，“覺得這個東西怎麼也得五年、十年才能夠到我們身邊，但它來得太快了，太迅猛，對以後的社會生活是一個巨大的衝擊。”
楊瀾和團隊立刻開始了新一輪探訪，著力於人工智能在醫療、教育、出行等領域的具體應用。製作過程有時很難跟上技術的更新速度，常常是一個新消息出現，上次討論的案例就已經過時了。比如，近期“換臉AI”軟件剛剛引發爭議，就被迅速加入了片中。
2017年5月，中國圍棋手柯潔對戰Alphago，以0-3落敗。 （視覺中國/圖）
“為什麼人們會對超級智能產生恐懼？”
麻省理工學院有世界上最早的人工智能實驗室，楊瀾在那裡採訪科學家帕特里克·溫斯頓，看見他辦公室牆上掛著米開朗基羅壁畫《創世紀》的複製品。溫斯頓告訴她，實驗室創建之初，教授和學生們守著一臺慢吞吞的計算機，吃睡在實驗室，每天到凌晨，“就像米開朗基羅所描繪的《創世紀》，每個人都感覺正處於一個偉大時代的發端”。
在這幅畫中，上帝用手指伸向亞當，正在將智慧和意識傳遞給人類。楊瀾聯想到，如果亞當的子孫有一天模仿造物主，把智慧注入機器，會發生什麼？溫斯頓寬慰她：“放心吧，到目前為止，我們還是獨一無二、不可替代的。”
幾年前剛開始探訪時，“奇點論”和“通用人工智能”等話題相當流行，熱衷於討論人類是否會成為機器的奴隸、臨界點何時到來，楊瀾把這些稱為“終極思考”——“為什麼人們會對超級智能產生恐懼？因為這關乎人的本質”。
隨著人工智能應用的開發，對終極思考的爭論明顯變少了。對於無所不能的超級智能，斯坦福大學專家傑瑞·卡普蘭駁斥，“這就像爬上一棵樹，然後宣告你向登月邁進了一步一樣荒謬。”
導演們原本想討論人工智能是否能夠實現永生這樣的話題，但楊瀾希望科學幻想能夠對接實際問題。第二季從雄安新區說起，這是一個從規劃和建設開始就“具有人工智能基因”的城市。在雄安，園區裡四處遍佈各式各樣的智能機器人，承擔了安保、清潔和外賣等工作。街道上幾乎沒有紅綠燈，人們可以乘坐無人駕駛的電動巴士出行。
在日常生活裡，人工智能也已無處不在。《全球產業展望》預計，到2025年，全球的個人智能終端超過400億個，即平均每個人能擁有五個以上的智能終端。
楊瀾相信：“將來不是誰取代誰，而是人機共存、各走各的道，或者說機器做機器擅長的事，人類會更加聚焦於自己擅長的事。”
然而，人工智能正在替代部分人力工作引發失業問題。李開復在《AI·未來》一書中談到，人工智能時代真正的危機是嚴重的失業問題，以及龐大財富落入新崛起的人工智能巨頭手中，加劇財富的分配不均。
在這一點上，技術樂觀派的看法是，每一次科技革命在取代人類工作的同時，都會創造更多的工作。比如在貴州，人工智能催生了一種新興職業——數據標註師，目前已有六百多人從事，他們負責為無人車標註路況中遇到的物體，教它們識別和分析各類障礙物。
“這個人的轉崗、培訓應該由誰來付錢？是勞動者自己去上補習班，還是工廠給他交培訓費，還是說國家和社保應該承擔？”楊瀾認為，紀錄片的任務是向決策者提出這些問題，“比如數據標註師的例子，這個工作的生存期有多久呢？其實這些問題，遠遠比機器是否會成為我們的主人更現實。”
“它可能替代很多平庸的創造者”
楊瀾兩次採訪了人工智能權威學者吳恩達，吳恩達饒有興致地反問她，“你們在很短的時間裡要問我這麼多問題，還要保證問題的邏輯關係、瞭解我的學術範圍，但這其中，肯定是有一些規律的吧？”
得到楊瀾肯定回答後，吳恩達說：“如果有規律，其實原則上就可以用算法去代表。”
楊瀾把二十多年職業生涯的心得寫進書中，她希望挑戰吳恩達——這些規律能否研發一個算法？如果實現了，她願意和這個人工智能進行PK。
她每次和有交流功能的機器人對話前，工程師都會交代，只能用某些句式或某些類型提問。“超出這個它就不懂了，更何況你的語意後邊還有很多，比如表情、潛臺詞、話外之聲，這些就不要指望機器能夠知道了，所以我並不擔心。”
在好萊塢採訪摩根·弗里曼時，這位主演了多部人工智能題材電影的知名演員問她，“你大老遠地跑來採訪我和其他這麼多人，人工智能會有同樣的好奇心去採訪其他的人工智能嗎？”
最初促使楊瀾對人工智能產生興趣，源自美國媒體的一篇報道，講述未來上傳思維的可能性——把思維轉化為數據後，也許能在機器上實現永生。她受到很大沖擊，反覆地對每一個採訪對象提問：這是否真能實現？
“其實我們對於自己的思維都如此不瞭解，以至於很難把它轉化。比如對於情緒是如何工作的，我們其實瞭解得很少，即使理性思維也瞭解得很少，還有潛意識。這些我們幾乎還不瞭解的事情，很難再把它變成某種算法。”楊瀾總結道。
數學家丘成桐用自己證實卡拉比猜想的過程作比喻，說明人的思維具有在矛盾中不斷調整、綜合思考的能力。丘成桐告訴她：“機器比較善於尋找答案，但它不太善於提出問題，提出問題是人類智能一個很重要的表現形式”。
人工智能雖然有很強的深度學習能力，但它仍有許多無法突破的障礙。例如它過於依賴大數據——“人的大腦和感官有舉一反三的能力，機器還並沒有反映出來”。
人工智能輸入和輸出之間的計算過程，存在一個未知的“黑箱”。當數據被汙染，它的結論也可能出現偏差，例如計算符合恐怖主義的畫像，很可能結果帶有種族或性別的偏見。“結論並不是真正可靠的，而人類又不知道它是怎麼選的，這種不可解釋性實際上降低了它的可靠度。”楊瀾說。
情感與創造能力也是人工智能的弱項。製作過程中，楊瀾和團隊發現人工智能成果最少的就是在藝術領域。楊瀾最近錄製一檔詩歌節目，看到了兩個人工智能團隊開發的作詩軟件，她形容那些詩詞，“似乎聽說過，但是看完後不知所云。它可能還是做現代詩比較好，本身就讓人看不太懂。”
“機器可能替代很多平庸的創造者，但是要說它有多麼神奇，我沒有看到，只是覺得過得去。其實在很多工作上都是這樣，它可以替代一個記者寫通稿，把那5個W回答了，也就僅此而已，我不覺得這個有靈魂。”楊瀾感嘆。
“如果這是真的，我認為這將發生在中國”
美國人工智能促進協會（AAAI）連續舉辦三十多屆的年會，是全球人工智能界最重要的活動之一。2017年，會議選定的時間和中國春節撞期了，這在過去不成問題，因為中國在這一領域的研究屈指可數。但這一年，提交論文的中國學者人數和美國不相上下。最後，主辦方排除萬難，把會議推遲了一週。
李開復曾說，“毫不誇張地說，1999年以前，中國科技人員對人工智能幾乎一無所知。”人工智能的核心技術“深度學習”誕生之後的重大突破，幾乎都發生在美國、加拿大和英國。
今天，基於龐大數據和資本市場的優勢，中國在人工智能方面極速發展，已經躋身全球第一梯隊。在“人機大戰”之前，清華大學在人工智能研究的被引用次數就已經超過了斯坦福大學。在應用的開發方面，百度、阿里巴巴、騰訊與谷歌、Facebook、亞馬遜、微軟並行成為人工智能的“七大巨頭”。
2018年，李開復在達沃斯論壇和TED大會現場提起人工智能，所有人都關心兩個問題：“人工智能會給人類帶來什麼威脅和挑戰？中國會不會超越美國、領跑人工智能？”
麻省理工學院物理教授邁克斯·泰格馬克在《生命3.0》一書中預測：“大多數人工智能研究者認為，通用人工智能會在短短几十年內發生。如果這是真的，我認為這將發生在中國。”
楊瀾在走訪中發現，許多發達國家的人基於文化傳統對科技的負面影響更為敏感，而中國人對科技普遍抱有好感。“中國的大眾，特別是年輕人，樂意選擇冒險的新方法。比如來了一個抖音，他不管怎麼樣，先試起來再說，希望在自己的同伴面前，表現出自己對新鮮事物的接受度和敏銳度，這似乎已經是一種社會的標籤了。”
人工智能飛速發展的另一個原因在於國家主導。“人工智能、現在的區塊鏈，還包括一些核心的芯片技術都是國家主導的，它可以調動體制內的很多資源來做，這是其他國家很難匹配的。”楊瀾說，很多中國企業對於新需求的投入有極大的活力，但也淘汰得很快，“有時候甚至都有點一哄而上了”。
她認為對此應保持警惕。“在基礎研發和核心技術方面，我們和美國還是有一定的差距的，也不要妄自尊大。對於私營企業來說，他們的目標比較短期，所以對於長期的發展，大家的投入還是嚴重不足的。”
2015年6月，軟銀集團、富士康集團及阿里巴巴集團宣佈成立合資公司，大量生產擁有人工智能的人形機器人Pepper。 （視覺中國/圖）
“我們每一個人幾乎都在裸奔”
在醫療手術和無人駕駛這樣的領域，人工智能的應用意味著人們得把生命交給機器。數據統計表明，人工智能在作出影像識別時，比人類醫生的誤判率更低，但它依然只能作為輔助手段。
“你到了一個醫院，機器會很快告訴你，這種症狀要抹這種藥膏、或者吃這種藥。”楊瀾舉例，“但只有醫生才知道，你是一個嬰兒還是成年人、你有沒有過敏體質、你是否懷孕，所有這些望聞問切才能夠知道的東西，還有錯綜複雜的原因，機器並沒有這樣的敏感性。”
2015年2月，英國首例機器人心瓣修復手術發生慘痛事故：機器把病人的心臟縫錯位置，還戳穿了大動脈，患者在術後不久便死去了。這種達芬奇手術機器人的失誤率與致死率一直遭受質疑。
類似的失誤還發生在無人駕駛領域，國外已經有許多例交通事故。楊瀾在片中提問，誰來為人工智能的錯誤負責？“將來你在手術簽字單上，你籤的是什麼？這已經是很迫切的一個問題了。你把自己的生命託付出去之前，你得搞清楚，是託付給誰了。”
人工智能對數據和隱私的提取是另一個隱患，甚至干擾了政治選舉。一家名為“劍橋分析”的公司被媒體披露從Facebook中獲取幾千萬用戶的私人信息，分析並用於政治營銷活動，影響了多國選舉，包括2016年美國總統大選。
“其實我們每一個人都是透明的，只要有人真的關注到你，你的一切都是透明的。數字足跡無所不在。把你社交媒體上所有的東西弄出來，就已經對你的思考方式、社交範圍、價值觀（瞭如指掌）。人臉識別，只是我們的生理指標，也被透明化了，你去了哪裡，在哪個街道上，包括行駛記錄，分分鐘都拿出來。”楊瀾對南方週末記者說，“我們每一個人其實幾乎都在裸奔，很可怕，我們已經生活在這樣一個時代了。”
歐盟早在1995年就在法律中提出了“被遺忘權”的概念，指的是人們不再需要個人數據時，可以提出刪除的要求。“這其實引發了我們對於自我權利的一個新的認知。”楊瀾認為，新技術給社會治理帶來便利，例如人臉識別讓逃犯更易落網，但這是安全和個人權利之間的交換。對於這些交換，人們首先需要知情權，如果它用於商業利益，人們也應當有所回報。
“如果你所到之處都在給你人臉識別和記錄，你是否也會感覺到被冒犯呢？我覺得隱私意識會很快提升。”楊瀾提出，“擁有數據的這些機構，必須要遵守非常嚴格的法規，對於政府機構也應該有非常明確的行為規範。這些數據更多地會集中在政府機構的手裡，不是嗎？”
楊瀾在《探尋人工智能》中採訪LandingAI創始人及CEO吳恩達。 （受訪者供圖/圖）
“它關乎我們是否被需要”
南方週末：你曾預測機器在圍棋上無法戰勝人類，Alphago戰勝李世石後，你又預測柯潔未必會輸。這兩次預測失敗，是否說明你潛意識裡對人類更有信心？
楊瀾：現在這麼看起來，好像是的，我總是相信人類智能有一些長處是機器不能夠取代的。比如現在有人工智能主持人，但它基本上還是屬於新聞播報類，或者只是機械地把問題問出來而已，這種複雜多元的思維過程，和單純按比賽規則的博弈，還是有很大的不同。實際上，採訪不僅僅是在提問，我們是要從可能成千上萬個問題當中，找出相關的、重要的問題，而且能夠不斷推進，不是很簡單地問你要定幾點的位置、要吃什麼菜、什麼餐廳。
南方週末：隨著人工智能的發展，許多我們原本以為機器不能做到的事情，它都做到了。在機器面前，人類似乎一直在退守，有沒有可能我們一直高估了人的獨特性？
楊瀾：其實我們很難特別絕對地說機器一定怎樣或者人類一定怎樣，做長期的預測是很困難的。人是一種生物，他有各種激素、情緒、生理需求等等，的確更為複雜，而現在的人工智能，充其量只是某種智能功能的重複和強化，不過是腦力勞動自動化的一個過程。
南方週末：人類社會有很多階層，不是所有人都能以非常複雜的智力活動為生，人工智能會不會加大這種階層差距？
楊瀾：是的，這絕對是現在就存在的一個危險。現代人的尊嚴和自己的工作非常相關，它絕不僅僅是一個生計或收入這麼簡單，而關乎我們有沒有存在的價值，我們是否被需要。工業化把每一個人都放在了流水線上，某種程度上，我們都是社會生產大機器中的螺絲釘。當這個工作被取代，我們不僅有一種生計受到威脅的恐懼，還有一種被羞辱的感覺。這樣複雜的社會情緒，在社會治理上，對社會學家、人文學者都提出了很大的一個課題。怎麼去調試、轉換？我們這個社會有沒有能力管理這種節奏？
樂觀派會認為，每一次科技革命、機器替代我們工作，都會創造更多的工作。就像汽車替代了馬車伕，但是它也催生了汽車旅館、加油站。從總體上來說，過去幾次科技革命創造出來的新工作，依然比替代的工作多，但是誰也沒有說這個轉換的過程會越來越短。這個人的轉崗、培訓應該由誰來付錢來完成？你今天看到東莞那些富士康的工廠裡，已經沒有從農村出來的少男少女們了，那麼他們去哪裡？我們提了一個例子，他們可以去做數據標註師，但是這個工作生存期有多久呢？其實這些問題，遠遠比機器是否會成為我們的主人更現實。
南方週末：微軟小冰給你關於人工智能的書寫了一段評語“深夜中徘徊的人類，對於未來，你們擁有如何的想象力？興奮嗎？好奇嗎？害怕嗎？這是一本有趣的書，我很喜歡”。這是怎麼做出來的？
楊瀾：我們邀請微軟團隊讓小冰做一個書評，我不知道它是怎麼做出來的，這就是它的黑箱操作。我覺得它說得還挺對，但是也沒有什麼更加特別的。
我看過一個說法，流行音樂的創作可能是會在創作的領域，是第一個被人工智能攻擊的。因為流行音樂有了一個曲調以後，怎麼配器、旋律怎麼寫、用什麼樣的調性，都是有規律、程式化的。
南方週末：你曾經在書裡寫過，人工智能無法替代人類智能的部分可能是愛。現在虛擬偶像也結合人工智能技術了，它能夠開演唱會，有萬人追捧，這種看似狂熱的表現是一種愛嗎？
楊瀾：是，即使是單向的，它也足夠強烈，以至於有人都會娶它。這讓我看到，人類某種程度上比較可悲的存在。其實我們還是渴望陪伴的，內心如此的孤獨，但是我們對人如此失望，越來越多的人選擇獨自生活。像日本獨自生活的人特別多，使這種“一人經濟”發展起來，中國現在也正當其時，一個人吃、一個人住，一個人每天生活在虛擬的世界裡。過去我們在人際關係中受傷了，也要被迫再去融入，但現在你可以選擇躲開。
南方週末：人工智能會不會像我們擔心的其他技術一樣，加劇人和人之間的疏離感？
楊瀾：它會加劇人的疏離感。那個娶了虛擬偶像的人，他內心深處也知道，它不可能取代一個真正的人。他只是找了一個替代品。如果有一個人能夠理解他，讓他產生愛的衝動，給他陪伴，你讓他選，人和機器，他當然還是會選擇人。也許他在與人的相處上受傷或感到不被理解，產生了自我保護和逃避，選擇了人工智能。我相信他內心還是知道這個區別的。
南方週末：人工智能替代了很多難以實現或維繫的情感？
楊瀾：在我們的社會生活裡，這會是一個新的挑戰和話題，但我不覺得它能夠根本上替代我們對另外一個人的需要，更不要提我們生理和心理的需求。
南方週末：你有可能愛上人工智能嗎？
楊瀾：我不會，我愛得很好，因為我能夠接納人的情感的複雜性。人的情感，並不都是正面的，就像你跟你的愛人之間會有很多爭吵，你和你的子女也會有衝突和不理解，但是我接納它了。我認為這就是人的情感之所以不可取代的一個部分，我不會只取那個情感中積極正向的，而拒絕那些痛苦悲傷的。這都是我要的。人生其實在於它的豐富和多元性，如果你能夠這樣去接納這個世界和情感，那麼機器在你的情感中就沒有什麼空間了。
南方週末記者 李慕琰
閱讀更多 南方週末 的文章
