導語：在科幻小說中，AI的自我能力是其超智能的重要特徵，如今，現實已經成真，谷歌剛剛推出的“Duplex”人工智能系統竟然可以自主打電話，以假亂真的背後是人類對人工智能自主能力的隱憂
幾天前，在谷歌的年度I/O開發者大會上，搜索巨頭谷歌發佈了一個名為“Duplex”的人工智能系統。該系統能與谷歌助理進行交互，基本上可以同商家進行簡單的電話通話，比如安排理髮時間、預定餐館。
圖| 谷歌的AI助手正在刺痛人類的倫理神經
然而，這一切並非完全只有積極的一面，接踵而來的就是人工智能所要面對的倫理問題——高度發達的人工智能系統能讓人類誤以為這臺機器就是人類。對此，谷歌公司建議，在使用該產品時，將對所有人公開其機器人的身份。
“Duplex”的最大特點是系統能夠進行較自然的聲音對話。該系統的程序被設定為有著極快的反應速度，但是交流時，該系統會巧妙地留出“語音中斷”，使其聽起來更自然。這包括一些口語化的語言，如“嗯”和“呃”。這一切都讓此人工系統聽起來像一個真實的人，而不是我們通常習慣的呆板的計算機聲音。
谷歌為此進行了技術演示，這一切都令人吃驚。第一個例子顯示了“Duplex”呼叫髮廊併成功進行了預約。第二個例子涉及到一個更復雜的對話，系統調用一個餐廳來嘗試預訂。在對話過程中，餐廳老闆告知系統那個日子不需要預約，“Duplex”竟然完全理解了老闆的意思，並對他表示了感謝！
雖然人工智能的高度發達讓人感到興奮，但這種技術能夠如此明目張膽地愚弄另一個人，讓人以為它是真實的——這一點就足夠讓人不安了。谷歌公司是否在人工智能的創造上，犯了致命的道德錯誤？同時，在其推出的階段中，谷歌是否沒有意識到如何讓公眾接受這一現實，這會是硅谷眾多公司真空開發某項技術卻完全忽視其社會影響的第一個案例嗎？
圖| 谷歌Duplex模仿人類發聲的啟示引發了社會對人工智能的擔憂，但谷歌似乎並沒有在意到這一點
同時期發聲的Yaniv Leviathan和Yossi Matias,他們都是此項目的主要負責人，遺憾的是，他們只關注了產品的技術潛力，並未意識到其存在的社會隱患 。似乎很少有人意識到該技術在現實世界中會產生的問題，在他們的博客和會議的介紹中，沒有提到如何研究披露和鑑別人工智能的技術——即增加人工智能“透明度”的技術。
在大量的博客文章中，唯一提到“透明度”問題的只有寥寥數語：“對我們來說，用戶和企業對這項服務的良好體驗極為重要，而人工智能透明度是實現此目標的關鍵部分。在接下來的幾個月裡，我們會嘗試不同的方法來弄清楚這個人工電話系統存在的意義，以更清楚地讓企業瞭解其背景。”
在是否應該將人工智能系統向人類趨同化的問題上，這場公開會議的討論已經引起了激烈的爭議。麻省理工學院(MIT)教授埃裡克•布林約爾松(Erik Brynjolfsson)在接受《華盛頓郵報》(the Washington Post)採訪時表示，“與此相反的事，人工智能研究人員應該讓人類儘可能容易地判斷他們是在與另一個人交流，還是與機器互動。”
圖| 來自推特上的一些對話表明AI的聲音不應該模仿人類的音質，AI的身份特徵不應該接近人類
普林斯頓大學的Arvin Narayanan建議說:“我們需要一些基本規則。其中一項便是:“圖靈紅色警戒（Turing Red Flag law）”——機器人應該被設計得更像機器人，它們對自己的定位也應當是機器人。“
在這個問題上，谷歌已經將主流話語推到了風口浪尖。人們除了對電話營銷和機器人電話有著明顯的擔憂，倫理問題在此處也不可小覷。人工智能在與人交流時需要向人類說明自己是人工智能嗎?
針對這一新興的爭議，谷歌發佈了一份聲明，聲稱將在“Duplex軟件使用中全面披露其人工智能身份。
谷歌的一位女發言人向CNET表示:“我們理解並重視谷歌的這些討論——就像我們從一開始就說的那樣，人工智能的透明度極為重要。我們正在對這一特性進行改良，並將其內置於系統之內，確保其人工智能的身份能夠及時得到識別。我們在I/O上展示的是一個早期的技術演示，但我們期待在開發產品時加入一些其他反饋。“
也許在不久的將來，以Siri為代表的系列人工智能產品將徹底擺脫其枯燥的電子發音，可以像真人一樣自如地進行談話。但是，這種令人嚮往的未來，既充滿了無盡可能，更充滿了未知的危險。
審校 | 楊子彤 Soybean
致敬科技未來 |
分享才是熱愛TechPower科技力
熱愛因科技而發生
閱讀更多 TechPower科技力 的文章
