【編者按】2020年2月19日，歐盟委員會發布人工智能白皮書《面向卓越和信任的歐洲人工智能發展之道》（On Artificial Intelligence - A European approach to excellence and trust）。白皮書共分為人工智能概述、利用工業和專業市場的優勢、抓住下一波數據浪潮機遇、卓越生態系統、信任生態系統、結論等六大部分，其中指出：人工智能為歐洲的發展帶來了新的機遇，同時也帶來了相應的風險，歐洲在技術、產業、數字基礎設施等方面具備的優勢以及在消費者平臺方面劣勢，未來需要在充分尊重歐盟公民價值觀和權利的情況下，促進人工智能在歐洲可信和安全發展的政策選擇——構建卓越和信任的生態系統，助力歐洲成為可信人工智能領域的全球領導者。
本文字數：4751字
閱讀時間：13分鐘
1 人工智能概述
歐洲當前和未來的可持續經濟增長和社會福利越來越依賴於數據所創造的價值。人工智能是數據經濟中最重要的應用之一。如今，絕大部分數據都與消費者相關，而且會在雲基礎設施上進行存儲和處理。相比之下，未來更多的數據將來源於工業、商業和公共部門，數據將被存儲於各種系統之中，尤其是那些運行在邊緣設備中。這為歐洲帶來了新的機遇，因為歐洲儘管在消費者平臺方面相對較弱，但歐洲在數字化工業和B2B應用方面在全球處於優勢的地位。
歐洲的技術、產業優勢以及高質量的數字基礎設施可以和基於基本價值觀的監管框架相結合，成為數據經濟及其應用創新的全球領導者。在此基礎上，歐洲可以開發一套人工智能生態系統，從而為歐洲社會和經濟帶來技術福祉.
考慮到人工智能對社會產生重大影響以及建立信任的需要，歐洲人工智能必須以歐洲的價值觀和包含人類尊嚴和隱私保護等在內的基本權利為基礎，這一點至關重要。
為了達到足夠的規模，避免單一市場的碎片化，歐洲有必要採取一種共同的人工智能策略。需要在充分尊重歐盟公民的價值觀和權利的情況下，提出了使人工智能在歐洲可信和安全發展的政策選擇，主要內容如下：
（1）該政策框架制定了歐洲、國家和區域的協調措施。在私人部門和公共部門的合作中，框架的目的在於從研究和創新開始就調動資源，從而在整個價值鏈上建成“卓越的生態系統”，並建立正確的激勵機制，加快採用基於人工智能的解決方案，包括中小企業在內。
（2）未來歐洲人工智能監管框架的關鍵因素將創建一個獨特的“信任的生態系統”。該系統必須確保遵守歐盟規則，包括保護基本權利和消費者權利，特別是在歐盟運行的、構成高風險的人工智能系統。建立一個“信任的生態系統”本身就是一項政策目標，它應該讓公民有信心接受人工智能應用，並賦予企業和公共組織利用人工智能進行創新的法律確定性。歐盟委員會大力支持以人為本的策略，這種策略基於在以人為本的人工智能中建立信任的交流，並將考慮到人工智能高級專家組在編寫倫理準則的試行階段獲得的投入。
2 利用工業和專業市場的優勢
歐洲具有利用人工智能潛能受益的優勢，歐洲不僅僅是用戶，更是人工智能技術的創造者和生產者。歐洲不僅擁有十分出眾的研究中心、創新型初創企業，而且在機器人、競爭激烈的製造業、服務業等領域佔據世界領先，覆蓋汽車、醫療保健、能源、金融服務和農業等領域。歐洲已經發展了強大的計算基礎設施（如高性能計算機），還擁有大量的公共和工業數據，但是其潛力尚未得到充分利用。歐洲具備公認的低功耗的安全數字系統優勢，這一點對人工智能的發展十分關鍵。
歐盟通過在下一代技術和基礎設施方面以及數字能力方面的投資，將增強歐洲在關鍵技術和基礎設施方面的技術主權，基礎設施應當支持創建歐洲數據池（European data pools），以支持可信的人工智能。
歐洲之所以在研究方面處於強勢地位，原因之一是歐盟的資助計劃，該計劃在彙集行動、避免重複以及利用成員國的公共和私人投資方面發揮了重要作用。在過去的三年裡，歐盟用於人工智能研究和創新的資金增至15億歐元，同期增長70%。
然而與世界其他地區相比而言，歐洲在研究和創新領域的投資只佔據了公共和私人投資的一小部分。2016年，歐洲在人工智能領域的投資約為32億歐元，北美約為121億歐元，亞洲約為65億歐元。因此，歐洲需要大幅度提高投資水平。事實證明，與成員國一起共同制定人工智能協調計劃是一個良好的起點，有助於建立更加緊密的合作，發揮協同效應，人工智能投資價值的最大化。
3 抓住未來機遇：下一波數據浪潮
全球產生的數據量正在迅速增長，從2018年的33澤字節（Zettabytes）到2025年的175澤字節。每一波數據浪潮都會給歐洲帶來機會，助力其在數字經濟中定位併成為該領域的世界領先者。雖然目前歐洲在消費者應用程序和在線平臺的地位較弱，這導致其在數據獲取方面處於劣勢，需要推動跨部門的數據利用和再利用。
歐洲是低功耗電子產品的全球領導者，這是下一代人工智能專用處理器的關鍵所在。量子計算的最新進展將使處理能力成指數級增長。由於歐洲在量子計算領域的學術優勢，以及歐洲工業在量子模擬器和量子計算變成方面的強大優勢，歐洲能夠走在量子計算領域的前列。同時，憑藉歐洲具備的科學卓越性，歐洲將繼續引領人工智能算法基礎的進步。
4 卓越的生態系統
為了在整個歐盟經濟和公共行政部門層面建立一個支持人工智能發展和採用的“卓越的生態系統”，有必要從以下八個層面加強行動：
（1）與會員國的合作：考慮到就白皮書進行公眾諮詢的結果，歐盟將向成員國建議在2020年底之前通過一項協調計劃。
（2）聚焦研究和創新組織的努力： 歐盟將促成建立能夠結合歐洲、國家和私人投資層面的卓越和測試中心（excellence and testing centres），可能包括一項新的法律文書。歐盟提出了一項重大的專項撥款，用於支持在“數字歐洲計劃”下設在歐洲的世界參考測試中心（world reference testing centres），並由“歐洲地平線”（Horizon Europe）計劃下的研究和創新行動作為《多年期財務框架（2021-2027）》（MFF）的一部分予以補足。
（3）能力方面：通過由頂尖大學和高等教育機構組成的“數字歐洲計劃”網絡，建立和支持高級技能支柱，以吸引最優秀的教授和科學家，並提供人工智能領域中世界領先的碩士課程。
（4）聚焦中小企業：歐盟委員會將與成員國合作，確保每個成員國至少擁有一個在人工智能領域高度專業化的數字創新中心。數字創新中心可以在“數字歐洲計劃”下得到支持。歐盟委員會和歐洲投資基金將在2020年第一季度啟動1億歐元的試點計劃，為人工智能領域的創新發展提供股權融資。根據MFF的最終協議，歐盟委員會打算從2021年起通過“投資歐洲”（InvestEU）大幅度擴大MFF的規模。
（5）與私營機構建立夥伴關係： 在“歐洲地平線”計劃的背景下，歐盟委員會將在人工智能、數據、機器人技術方面建立新的公私合作伙伴關係，以共同努力並確保在人工智能研究和創新的協調，在“歐洲地平線”計劃下與其他公私合作伙伴關係展開合作，並和測試中心、數字創新中心一起共同工作。
（6）促進公共部門採用人工智能：歐盟委員會將會發起部門間公開和透明的對話，部門對話將用於準備特定的“採用人工智能計劃”（Adopt AI programme），以支持人工智能系統公共採購，並幫助部門改變公共採購流程。
（7）數據和計算基礎設施訪問：歐盟委員會已經提出了超過40億歐元的“數字歐洲計劃”，以支持高性能計算和量子計算，包括邊緣計算和人工智能、數據和雲基礎設施，歐洲數據戰略進一步發展了這些優先事項。
（8）國際方面：在歐盟規則和價值觀的基礎上，歐盟將繼續與志同道合的國家和全球參與者展開在人工智能領域的合作。歐盟委員會將密切監測其他國家限制數據流動的政策，並將在雙邊貿易談判中通過世界貿易組織範圍內的行動解決不適當的限制。歐盟委員會相信，人工智能領域的國際合作必須建立在一種促進尊重基本權利的基礎上，包括人的尊嚴、多元化、包容性、非歧視、保護隱私和個人數據，並將努力在世界範圍內輸出其價值觀。顯然，負責任地開發和使用人工智能能夠成為可持續發展目標和推動2030年可持續發展議程的動力。
5 信任的生態系統：人工智能的監管框架
由於人工智能系統非常複雜，並在某些情況下會引發重大風險，因此建立信任至關重要。需要通過明確的規則，解決高風險的人工智能，同時又不會給低風險系統帶來過多負擔，歐盟將繼續實施嚴格的消費者保護協定，以應對不公平的商業行為，保護個人數據和隱私。
未來歐盟監管框架的範圍
未來人工智能監管框架的一個關鍵問題是確定其使用範圍。一種有效的假設是，監管框架將適用於依賴人工智能的產品和服務。現階段，歐盟設立了一個嚴格的法律框架，以確保消費者保護、解決不公平的商業行為，並保護個人數據和隱私。原則上，新的人工智能監管框架應能夠有效的實現目標，同時不能過度規定，以免造成不成比例的負擔，尤其是對中小型企業而言。為了達到這種平衡，歐盟認為應該採用一種以風險為基礎的策略。
歐盟認為，鑑於應用部門和預期用途可能涉及重大風險，特別是從安全、消費者權益和基本權利的角度出發，需要對某一特定領域的人工智能應用進行判斷，判斷其是否是高風險。
在滿足以下兩種情況下該人工智能應用應該被認為是高風險：第一，在某一可能會發生重大風險的領域，在該領域中的人工智能應用應被認為是高風險的。這一標準是為了確保監管的對象是最有可能發生重大風險的領域。新的監管框架應當具體且詳細地列出相關的領域，例如醫療保健、運輸、能源和部分公共領域。所列清單應當根據實際發展情況，進行定期審查和修訂。
第二，只有在相關領域不當地利用人工智能併產生了重大風險，這種人工智能才會被認為是高風險的。這一標準與人工智能的利用方式有關。例如，雖然醫療保健是人工智能應用的相關領域，但是醫院預約系統的缺陷通常不會造成重大的風險引起立法干預。對於特定的人工智能使用風險水平的評估應基於對受影響方的影響，例如利用人工智能應用對個人或企業的權利產生合法或類似的重大影響的；造成受傷、死亡、重大物質性損害或非物質性損害的；造成個人或者法人無法合理規避的後果的。
需求類型
在設計未來的人工智能監管框架時，有必要決定對相關參與者實施何種類型的強制性法律要求，這些要求可以進一步通過標準來規定。除現有的立法外，這些要求只適用於高風險的人工智能應用，從而確保監管都是集中且適當，對高風險人工智能應用的要求可能包含以下主要特點：
● 訓練數據；
● 數據和和記錄保存；
● 擬提供的信息；
● 魯棒性和準確性；
● 人為監督；
● 特定人工智能應用的特殊要求，例如用於遠程生物識別的需求。
適用者
高風險人工智能應用的法律要求的適用者，有兩個主要問題需要考慮：
第一，存在一個如何在相關的經營者之間分配義務的問題。 許多參與者都參與了人工系統的生命週期，包括開發人員、部署人員和其他潛在的人員（生產商、分銷商、進口商、服務提供商、專業用戶或私人用戶）。
第二，立法干預的地理範圍問題。歐盟認為，這些規定必須適用於所有在歐盟範圍內提供人工智能產品或服務的相關經營者，無論他們是否設立在歐盟。
非高風險人工智能應用的自願貼標
對於非高風險的人工智能應用，除了適用的法律外，還可以選擇設立自願貼標計劃（voluntary labelling scheme）。那些不受強制性規定監管的經營者，可以決定在自願基礎上使自身成為強制性規定的監管對象，或者是成為專門為自願貼標計劃而制定規定的監管對象，自願貼標計劃將允許相關的經營者聲明他們提供的人工智能產品和服務是值得信賴的，這將有助於用戶輕鬆地認識到，這些產品和服務符合歐盟某些客觀和標準化規定，超出了其通常適用法律義務，此舉將有助於增強用戶對人工智能系統的信任，並促進人工智能技術的全面應用。
治理
歐洲的人工智能治理結構必須是和國家主管部門開展合作，從而避免責任的碎片化，提升成員國能力，確保歐洲逐步具備測試和認證人工智能產品和服務所需的能力。作為一個定期交流信息和最佳實踐的組織，歐洲治理結構可以有多種任務，包括識別新興趨勢，就標準化和認證活動提供建議，還可以通過發佈指導方針、意見和專業知識等方式，在推動法律框架實施方面發揮關鍵作用。
人工智能治理結構應該最大程度地保證利益相關者參與。在實施和進一步發展該結構時，應當諮詢消費者組織、社會夥伴、商界、研究人員和民間社會組織等相關人士的意見。
鑑於在金融、製藥、航空、醫療器械、消費者保護、數據保護等領域已有相關的治理結構，擬議的人工智能治理結構不應重複。相反，它應該與歐盟其他部門和各國主管部門建立密切聯繫，以補充現有的專業知識，並幫助現有部門監測和監督那些涉及人工智能系統和支持人工智能產品和服務的經營者的活動。
最後，如果採用這種治理結構，可以將合格評定執行委託給會員國指定的認證機構。測試中心應根據上述的要求對人工智能系統進行獨立審查和評估。這種獨立評估將增強信任並確保客觀性，並有助於主管部門工作開展。
6 結論
人工智能是一項戰略技術，只要其堅持以人為本、合乎道德、可持續發展、尊重基本權利和價值的發展方向，才能夠為公民、企業和整個社會帶來諸多福祉。為了使歐洲充分抓住人工智能帶來的機遇，必須發展和增強必要的工業和技術能力，同時需要如《歐洲數據戰略》(European strategy for data)所要求的，應當採取措施使歐洲成為全球數據中心。
編譯 | 李書峰/賽博研究院研究員
本報告為賽博研究院編譯出品，僅用於公益交流，非商業目的。文中觀點不代表本機構立場，內容和圖片如有知識產權問題，請及時聯繫我們修改刪除，如需轉載請獲得授權。聯繫方式：[email protected]
閱讀更多 賽博安全 的文章
