薛瀾
清華大學文科資深教授，現任蘇世民書院院長，兼任國家戰略諮詢與綜合評估特邀委員會委員，中國國家新一代人工智能治理專業委員會主任，經濟合作與發展組織（OECD）科學、技術和創新顧問委員會委員，聯合國可持續發展網絡（SDSN）領導委員會聯合主席等。
新一代人工智能將對人類未來發展產生重大而深遠的影響，也是全球熱議的“第四次工業革命”的關鍵支撐。
2019年6月17日，我國首次發佈發展人工智能治理原則——《新一代人工智能治理原則——發展負責任的人工智能》（以下簡稱《治理原則》），明確提出和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理等八項原則。它作為首個國家層面發展人工智能的治理原則，對於中國人工智能未來的發展方向具有重要意義。
中國首個發展人工智能治理原則發佈，釋放了哪些重要信號？中國人工智能發展的目標和方向在哪裡？應規避哪些問題？針對這一系列熱點問題，記者近日專訪了國家新一代人工智能治理專業委員會主任、清華大學蘇世民書院院長薛瀾。
人工智能未來：發展和治理並進
記者：請您介紹一下關於《新一代人工智能治理原則——發展負責任的人工智能》出臺的背景。
薛瀾：中國人工智能最近這兩年發展迅速，在各方面應用的機會大大增加，其風險投資等方面也是增長比較快。隨著中國人工智能技術快速發展，亟需加強人工智能法律、倫理、社會問題研究，在其失控之前把握方向、加強治理已成為不可迴避的責任。
中國在人工智能、基因編輯等這一波新興科技領域走在前沿，目前是在第一方陣。在新技術發展的第一方陣，需要率先考慮新技術可能帶來的負面影響，特別是新技術涉及的一系列倫理道德等對社會有深遠影響的問題。因此，
提前佈局、探索治理就顯得非常重要。這次發佈的《治理原則》重點基於兩個方面的考慮。一方面，從發展的角度考慮，表達對人工智能發展支持和鼓勵的態度；另一方面，從治理的角度考慮，人工智能的不確定性有可能帶來潛在的負面影響和風險，必須將發展和治理同時納入進來，協調兩者之間的關係，確保人工智能安全可靠可控。我們的初衷就是希望所有相關方要負責任地參與人工智能技術開發應用，以保證人工智能健康有序發展。
首個國家治理原則為今後立法奠定基礎
記者：我國首次發佈發展人工智能治理原則，其地位和意義是什麼？
薛瀾：《治理原則》是我國在人工智能規範工作一個重要的開始，是國家層面制定的首個發展人工智能治理原則。它不是法律，不是行政法規，也不是技術標準，而是從道德和責任層面要求各方遵守。
它為下一步國家在適當的時候制定人工智能相關法律法規或者標準提供了重要依據和基礎。目前一種呼聲就是希望在人工智能方面立法，而立法需要有實質內容，《治理原則》已經明確了哪些是應該提倡的、哪些是應該避免的。
記者：《治理原則》對於人工智能發展在某種程度上會形成阻礙嗎？
薛瀾：人工智能是人類經濟社會發展的新的機遇，這一點得到了國內外社會各界的共識，加快發展新一代人工智能是推動我國高質量、可持續發展的戰略機遇。不過，這次在討論《治理原則》的時候確實有人擔心：《治理原則》的出臺是否會影響人工智能進一步發展。
我認為，從提出的八項原則來看是不會影響的，因為我們的初衷非常明確：在鼓勵人工智能發展的同時，希望通過這些規則確保人工智能健康有序發展，人工智能治理的目的是預防人工智能的濫用或者誤用，不是為了阻礙發展。
獨創治理新模式，打造多元共治體系
記者：《治理原則》如何應對人工智能這種發展不確定性？
薛瀾：《治理原則》的第八條“敏捷治理”原則是中國首先明確採用的，得到了我國高校、科研院所、企業等各方認同。大家一致認為，對於人工智能新興技術，首要是鼓勵發展，同時更重要的是改變傳統治理模式。
所謂敏捷治理，就是不是非要等到所有的情況都瞭解、各方達成充分共識以後才去形成規則；而是一旦看到不好的苗頭，就及時發出信號，提醒所有相關方注意相關問題，有效避免新興科技朝著不利於人類的方向發展。
尤其值得注意的是，未來針對人工智能的政策反應速度要快，但是政策的作用強度要輕，不至於對其發展產生阻礙。在這種新型治理模式中，治理對象——技術開發者和應用者與政府相關部門不是對立面，不是貓和老鼠的關係，實際上都是參與治理的主體，共同推動人工智能健康有序發展。
通過敏捷治理，人工智能涉及到的相關第三方也有機會發表意見，參與多元決策過程，共同尋找最佳治理方式。可以說，人工智能這樣的新技術正在催生社會治理體系和模式的變革，倡導多元共治、多方參與的治理模式，並保持開放靈活的狀態，及時根據技術發展需要進行動態調整。
記者：人工智能研發應用者如何參考《治理原則》規範自身行為？
薛瀾：這可以參考第一條“和諧友好”原則，首先也是最重要的，明確人工智能發展的目的是什麼？即人工智能發展應以增進人類共同福祉為目標；應符合人類的價值觀和倫理道德，促進人機和諧，服務人類文明進步；應以保障社會安全、尊重人類權益為前提，避免誤用，禁止濫用、惡用。
我們強調，人工智能的發展要符合人類價值觀，符合生態文明建設準則，與聯合國可持續發展目標（SDGs）3個核心支柱相一致——兼顧經濟、社會和環境。
在明確人工智能發展目的之後，還需要注意幾個方面，包括公平公正、尊重隱私、安全可控等。《治理原則》就像航行中的燈塔，為人工智能相關方指引方向，保障人工智能發展不偏離航道。
企業主動約束自己，探索互相監督機制
記者：據您瞭解，企業作為人工智能發展主體，對於《治理原則》是什麼態度？
薛瀾：新一代人工智能治理專業委員會有各界代表，其中就包括企業。參與前期討論的都是行業內領先企業，有高度的社會責任感，在基本導向上與專家的觀點高度一致。
當然企業對於有些原則也曾擔心如果表述不好，會不會給社會造成一種錯覺，讓大家誤以為治理原則是要約束人工智能的發展，所以我們在把意思更準確地表達方面確實花了心思。
記者：您建議下一步企業如何應用《治理原則》？
薛瀾：我國制定人工智能治理原則，強調發展負責任的人工智能。所謂“負責任”是指從基礎研究到應用研究到產品和服務的全方面負責任。 因此，在新興技術領域，尤其是人工智能領域的前沿企業，自我約束和社會責任是非常關鍵的，這事關企業的長遠發展。
無論是從社會公眾利益的角度，還是企業自身利益的角度，企業的自我約束都是必不可少的。一旦企業做了有損倫理道德、有害社會的事情，必須承擔後果，而對企業而言負面影響和損失有時候是不可挽回的。
另外，人工智能企業除了遵守《治理原則》，更要注重行業自律，建議探索有效的企業間自我監督機制。如果同行企業之間探索建立某種形式的聯盟，形成共同遵守的規則，這比政府監管更有效，也能讓《治理原則》真正落實到位。
最擔憂人工智能對就業領域的重大沖擊
記者：對人工智能發展未來可能面臨的問題，您最擔心什麼？
薛瀾：除了人工智能倫理方面的問題之外，我最關心人工智能對社會的最直接影響在就業領域。實際上，人工智能的廣泛應用對人類職業的影響已不再僅僅是一種理論，它已經在現實中發生，一些簡單重複性的工作在逐漸被替代，引起了社會高度關注和擔憂。
尤其是，第四次工業革命引發的技術變革再也不像過去，讓人類有足夠的時間緩衝和適應，一旦未來人工智能科技在社會得到全面廣泛的應用，將有大量職業會被人工智能替代。這無論對於國家還是個人都是極大的挑戰和難題。
另外，最令公眾擔心的是未來更高等人工智能的出現對人類的巨大沖擊。不過，據業內很多專家判斷：有這種可能性，但是還很遙遠。然而，我們也不能掉以輕心。所以在“治理原則”的最後，特別提到“對未來更高級人工智能的潛在風險持續開展研究和預判，確保人工智能始終朝著有利於人類的方向發展”。這就是提醒相關方，在發展更高人工智能的時候要有預見性，在必要的時候及時剎車，避免巨大風險出現。
記者：您認為人類有能力防範人工智能未來發展存在的風險和威脅嗎？
薛瀾：我對此是保持謹慎樂觀的態度，畢竟人工智能作為技術手段，如何運用在於人類自身的選擇。當然，未來會有失控的風險，畢竟不能排除一些人別有用心濫用技術，因此我們要時刻保持清醒。欣慰的是，目前各國已經意識到人工智能發展可能出現的倫理、社會、法律等問題，並紛紛出臺規則避免失控、確保安全，這其實是一個積極的信號。
我相信，未來人類通過強烈的自我保護意識和理性的集體決策，終將形成國際人工智能治理框架和規則，保障人工智能行走在造福人類和地球的可持續發展軌道上。
閱讀更多 u子揚 的文章
