隨著深度學習和神經網絡等信息技術的進步，以Deepfake為代表的人工智能造假技術日益醇熟，視頻中的人臉替換、人類聲紋模擬等幾乎已達到以假亂真的程度。雖然該技術在圖像分析、彌補人類聽力缺陷等方面具備正向應用價值，但其對個人隱私、媒體信任、經濟發展和公共安全等領域的潛在威脅，引起全球的極大關注。
目前，各國都在推動相關Deepfake鑑假技術的發展，同時，也在努力通過法律手段來防範人工智能造假技術可能對公民和國家安全產生的危害。對全球人工智能造假技術的相關立法情況進行梳理，有助於我國在推動前沿技術應用過程中，從法律層面預防和應對相關風險。
美國
美國是最早提出對深度偽造技術進行立法的國家，與深度偽造技術直接相關法案最多，而且從聯邦和各州政府層面均有部署行動。
（一）聯邦層面
2018年12月，美國參議院提出《2018年惡意偽造禁令法案》（Malicious Deep Fake Prohibition Act of 2018），對製作深度偽造內容引發犯罪和侵權行為的個人，以及明知內容為深度偽造還繼續分發的社交媒體平臺，進行罰款和長達兩年的監禁。如果偽造內容煽動暴力、擾亂政府或選舉，並造成嚴重後果，監禁將長達10年。
2019年6月，美國眾議院提出《深度偽造責任法案》（Deepfakes Accountability Act），要求任何創建深度偽造視頻媒體文件的人，必須用“不可刪除的數字水印以及文本描述”來說明該媒體文件是篡改或生成的，否則將屬於犯罪行為。
2019年6月，美國眾議院提出的《2020財年Damon Paul Nelson和Matthew Young Pollard情報授權法案》中提出，建議針對深度偽造技術的鑑別開展相關技術競賽，以刺激鑑偽技術的研究和商業化。
2019年6月，美國兩黨議員分別在眾議院、參議院同時提出《2019年深度偽造報告法案》（Deepfakes Report Act of 2019），明確了“數字內容偽造”的定義，規定國土安全部定期發佈深度偽造技術相關報告。該法案將國土安全部作為主管協調部門，規定報告的製作由國土安全部分管科學和技術事務的副部長負責，其分管的司局也參與深度偽造技術研究，如科學技術局、網絡安全司、國土安全高級研究計劃局等。
（二）各州立法
2019年6月，美國德克薩斯州通過《關於製作欺騙性視頻意圖影響選舉結果的刑事犯罪法案》，該法案將利用Deepfake等技術製作深度偽造視頻企圖干擾選舉的行為定義為刑事犯罪。法案於2019年9月1日正式生效。
2019年7月，美國弗吉尼亞州頒佈一項反色情復仇修正法案，將“製作、傳播虛假的裸體或性視頻或圖像”以脅迫、騷擾或恐嚇他人的行為認定為刑事犯罪，把深度發佈和傳播深度偽造視頻視為實施色情報復的手段之一，違法者將面臨最高12個月的監禁和2500美元的罰款。該法案於2019年7月1日生效，是美國首個生效的覆蓋深度偽造內容的州立法。
2019年10月，美國加州州長加文·紐森簽署《AB 730》法案，該法案將發佈虛假、惡意音視頻，對政客產生負面影響的行為定義為犯罪行為。該法案適用於處於60天選舉期內的任何候選人，意在打擊具有誤導性的深度偽造視頻，以防對選舉造成不利影響。
（三）其他相關法律法案
2019年3月，美國參議院提出《2019年商業人臉識別隱私法案》，是美國關於人臉識別隱私保護的第一部法案，被認為是聯邦監管的重大舉措。該法案規定，商業公司在使用人臉識別技術時需要經過用戶的明確同意，同時要求對投入市場應用的人臉識別技術進行第三方測試，以確保其符合準確性標準，避免對消費者可能造成的損害。
法案禁止在未經用戶同意的情況下，將用戶數據提供給第三方實體。法案還明確定義了數據控制者以及數據處理者，以便明晰兩類主體在研發或銷售人臉識別產品或服務、存儲人臉識別數據中的具體要求。法案還要求人臉識別運營商應滿足聯邦貿易委員會和國家標準與技術研究院確定的數據安全性、最小化、留存等標準。
2019年4月，美國參議院提出《隱私權利法案》，旨在從立法層面全面保護個人數據。該法案明確定義了個人數據，還要求聯邦貿易委員會出臺立法，賦予個人若干權利，包括：接收關於數據控制者收集、使用、存儲和共享其個人數據通知的權利；被收集和使用個人信息時的選擇加入權；訪問個人數據處理活動有關細節的權利；訪問可攜式電子錶中個人數據的權利；糾正不準確的個人數據的權利；要求刪除個人數據的權利等。
2019年6月13日，美國眾議院情報委員會召開關於人工智能深度偽造的聽證會，公開談論了深度偽造技術對國家、社會和個人的風險及防範和應對措施。在此次專門討論深度偽造及其他類型的人工智能合成技術的聽證會上，專家認為深度偽造技術的濫用可能導致公民權利、經濟和公共安全等方面的危害。
歐盟及德國
（一）歐盟
在應對深度偽造技術上，歐盟主要通過個人信息保護和虛假信息治理等法律法規來從法律層面限制人工智能造假技術的應用。
歐盟委員會於2018年4月26日發表致歐洲議會、歐盟理事會、經濟和社會委員會以及地區委員會的長篇公開信《應對線上虛假信息：歐洲方案》。《方案》集中闡釋了歐盟委員會面對線上虛假信息挑戰的基本觀點，提出改進信息來源及其生產、傳播、定向投放和獲得贊助方式的透明度，改善信息的多樣性，提高信息的可信度，制定包容性的解決方案等原則，以實現全面防範視頻、圖像和文字等虛假信息，避免信息發佈者違法操縱輿論等狀況。
2018年5月，歐盟正式實施《通用數據保護條例（GDPR）》，把個人數據置於現行歐盟法律保護之下，包括可能被用於製作深度偽造內容的公民圖片等數據，並適用於社交媒體平臺和軟件公司發佈的換臉軟件產品等可能引發的個人隱私洩露問題。未來，GDPR還將通過進一步確立“數據保護法案”進行補充。
2018年9月，歐盟發佈其歷史上首份《反虛假信息行為準則（Code of Practice on Disinformation）》，旨在加強互聯網企業對平臺內容的自我審查，從源頭打擊網絡虛假內容。2020年1月，歐盟委員會發布消息稱，將於年初啟動對《反虛假信息行為準則》實施效果的全面評估。本次評估主要針對簽署了《準則》的互聯網企業，以檢驗社交媒體和搜索平臺在打擊網絡謠言方面的行動力度，包括針對深度偽造等音視頻文件的管控。
（二）德國
德國是西方國家中第一個對網絡危害性言論進行專門立法的國家,在防範人工智能造假技術危害方面，其現行法律也可從公民臉部圖像數據等信息保護、限制網絡服務商和打擊網絡虛假視頻信息等方面進行解釋。
1997年6月,德國立法者通過《信息和傳播服務法》 (ICSA,又稱《多元媒體法》),涉及互聯網服務商的責任、保護個人隱私、數字簽名、網絡犯罪和保護未成年人等方面, 是一部全面的綜合性的法律。
作為歐洲第一個全面規制網絡內容的立法,《多元媒體法》在三個主要方面對德國的互聯網控制產生影響。第一,它對互聯網服務提供商加強了對非法內容傳播的責任;第二,它通過法令設定特定的“網絡警察”監控危害性內容的傳播;第三,《多元媒體法》將在網上製作或傳播對兒童有害內容的言論視為一種犯罪。
2000年以來，德國相繼出臺了十多部與網絡輿情相關的法律法規，對虛假信息治理在《刑法典》《民法典》《信息自由法》《電信服務法》等多部法律中均有體現。《刑法典》中明確規定，散佈謠言危害公共秩序、造成社會不安定的，將受到6個月的監禁或罰款，一旦出現死亡事件，則要受到5年的監禁處罰。
2018年，德國通過《社交媒體管理法》，凡是超過200萬註冊用戶的網站公司都必須遵守。該法案要求社交媒體公司必須設立有關程序，檢查自己網站上被提出投訴的內容，並在24小時之內刪除明顯違法的信息。違法個人可能面臨高達500萬歐元的罰款，公司如果未能符合監管標準將可能面臨高達5000萬歐元罰款。
其他國家
海外其他國家尚無針對人工智能造假技術的直接立法，但在公民信息保護、虛假信息治理、社交媒體平臺管控和網絡審查等方面的法律法規，也可適用於造假技術相關犯罪案件的審理。
（一）新加坡
新加坡《廣播法》明確規定，新加坡三大電信服務供應商要遵從《互聯網操作規則》，承擔屏蔽、封堵特定網站和信息言論的義務，以便及時發現虛假信息並依法查處。政府有權要求供應商刪除網站中宣揚色情內容的言論，嚴重造謠者將以誹謗罪被起訴。若供應商不能履行義務，將會被罰款或被暫時吊銷營業執照。
2019年5月，新加坡議會通過《防止網絡虛假信息和網絡操縱法案》（Protection For Online Falseas And Manipment Act），使政府有權要求個人或網絡平臺更正或撤下對公共利益造成負面影響的虛假內容，法案適用於利用深度偽造技術製作的虛假音視頻。根據該法案，新加坡政府可以責令發出虛假信息的網站對信息進行更正或撤下，不願遵守指示的網絡平臺最高可被判罰100萬元新加坡元，“惡意”散播假信息的個人將面臨最長達10年的監禁。
（二）英國
英國對個人臉部圖像等信息保護的法律主要是《數據保護法》。該《數據保護法》所保護的對象為可以被識別的與個人相關的數據，既包括自動化處理的數據以及為自動化處理而記錄的數據，也包括人工記錄的存檔系統以及為了相關存檔系統而記錄的數據。
無論是自動處理還是人工記錄的個人數據,如果以某種方式影響個人隱私的信息就足以認定為個人數據。《數據保護法》適用對象既包括組織也包括個人,而且適用領域既包括公權力領域,也包括私權利領域,並且二者的適用不作區別。
（三）韓國
人工智能造假技術發佈的音視頻、圖片可歸於網絡輿情，韓國現行法規也涵蓋了造假技術可能引發的法律爭議。韓國是第一個有專門的網絡審查法規的國家,早在1995年就出臺了《電子傳播商務法》,由韓國信息傳播倫理辦公室對“引起國家主權喪失”或“有害信息”等網絡輿情內容進行審查,而信息部可以根據需要命令信息提供者刪除或限制某些網絡輿情內容。
從2002年起,韓國政府推動實施網絡實名制。為杜絕虛假互聯網輿情信息，韓國網站要求信息發佈者填寫詳細的用戶資料，即真實姓名、身份證號、住址等信息，經對每個發佈者的姓名和身份證號核實無誤並備案後，才提供郵箱或賬號，通過郵箱和賬號才能建立、訪問博客和論壇等網頁併發言，能夠對信息發佈者進行很好的溯源管理。
2005年10月,韓國政府發佈和修改了《促進信息化基本法》、《信息通信基本保護法》等法規,為網絡實名制提供法律依據。2007年,韓國頒佈的《促進使用信息通信網絡及信息保護關聯法》規定,各主要網站在網民留言之前,必須對留言者的身份證號碼等信息進行記錄和驗證,否則對網站處以最高金額達3萬美元的罰款。
為保護個人數據，韓國自2011年9月起實施《個人信息保護法》，禁止有關機構在未經本人同意的情況下收集與使用個人信息，並禁止把個人信息提供給其他機構。法律規定，如果未經本人的同意，將個人信息提供給其他機構，將被處以5年以下的有期徒刑或5000萬韓元以下的罰款。
（四）俄羅斯
俄羅斯與韓國情況類似，其現行法律法規也可從網絡輿情監管角度對造假技術進行管理。
為了保護俄羅斯網民免受不良信息的侵害，俄政府規定，其境內所有網站都有迅速清理非法信息的義務。如果執法部門發現非法信息，將立即通知有關網站予以刪除，如該網站拒絕配合，執法部門將發出警告。兩次警告無效後，執法機關將通過法律程序關閉該網站。
2011年4月，俄羅斯政府撥款100萬盧布，用於起草有關網絡監管專門法律的前期調研。2011年5月，莫斯科市政府率先頒佈地方性法規，賦予安全局、內務局等強力部門更大權力，以加強對新興媒體的監管力度。
2016年7月，俄羅斯頒佈《網站黑名單法》，限制網絡傳播非法內容。網站如果傳播淫穢、鼓勵自殺或自殘、毒品等內容，會被主管部門納入黑名單並關閉，甚至面臨法院的裁決。
2019年3月，俄羅斯國家杜馬通過打擊假新聞和阻止褻瀆國家標誌的兩項法案，限制網上對俄羅斯政府發表批評言論，並授權對發佈有關政府虛假信息的公民處以監禁或罰款。此外，俄羅斯也正在考慮兩項新法案，擬要求社交平臺必須在受到警告後24小時內刪除有危害信息，違規者將面臨高額罰款。
中國
作者丨李鵬飛
研究所簡介
國際技術經濟研究所（IITE）成立於1985年11月，是隸屬於國務院發展研究中心的非營利性研究機構，主要職能是研究我國經濟、科技社會發展中的重大政策性、戰略性、前瞻性問題，跟蹤和分析世界科技、經濟發展態勢，為中央和有關部委提供決策諮詢服務。“全球技術地圖”為國際技術經濟研究所官方微信賬號，致力於向公眾傳遞前沿技術資訊和科技創新洞見。
地址：北京市海淀區小南莊20號樓A座
電話：010-82635522
閱讀更多 全球技術地圖 的文章
