據彭博社3月9日報道，白宮社交媒體主管丹·斯卡維諾在推特上發佈了一段13秒長的視頻片段，視頻中美國前副總統、民主黨總統參選人喬·拜登說道：“我們只能再選唐納德·特朗普當總統。”
但其實這一片段是從拜登上週在密蘇里州的會議演講中剪輯出來的，目前這一視頻被打上了“受操縱媒體”的標籤。
這並非拜登團隊第一次使用剪輯的把戲來操縱視頻內容，此前他們就上傳了含有大段“斷章取義”內容的視頻，意圖誤導美國民眾。
眼看美國、歐洲、加拿大等多地區的2020總統大選即將到來，很多國家開始擔心虛假信息會被參選人員用於操縱選舉，煽動毫不知情的民眾控制輿論。為了保證大選的順利進行，部分國家正式向以Deepfake為主的欺騙性內容“宣戰”，以保持選舉的公正性。
Deepfake讓謊言變得更強大
事實上，通過操控輿論來籠絡人心已經成為政治選舉中常見的戲碼。Deepfake沒有出現之前，就曾有通過製作偽造視頻、發佈假消息來干涉選舉的事件，那些往往通過視頻編輯工具來實現。
2016年美國大選期間，一段南希.佩洛西的偽造視頻被大肆傳播，視頻由特朗普支持者製作，他們的手法非常簡單，就是將原始的演講視頻素材放慢以及改變音頻音調 ，讓視頻中的南希.佩洛西看起來像是醉酒了。包括此次拜登團隊採用的也是視頻剪輯的方式。
不僅僅是美國，在西方國家，假新聞（Fake news）一直是政治選舉中長期面臨的重要問題。但與視頻編輯不同的是，Deepfake偽造視頻以假亂真的能力更強，謊言也因此變得更加強大。北美法學界不少學者認為Deepfake會更大程度上影響選舉進程，並破壞選舉的合法性。
2018年4月，Deepfake首次被用在“政客”身上。當時美國喜劇演員約旦·皮爾製作了一段視頻，視頻中他被換臉成前總統奧巴馬並說出“特朗普是個徹頭徹尾的笨蛋”。
自此，自由創作者們如同發現新大陸一般，開始了針對政客的“大規模報復”。美國現總統特朗普、英國首相熱門候選人伯尼·桑德斯、英國工黨領袖傑里米·科賓等人無一倖免，淪為公眾笑柄，形象受損。
除了部分公眾借Deepfake惡搞視頻表達政治立場以外，也有部分政客將Deepfake作為公關手段來美化自身形象，提升公眾好感。
在今年的印度大選中，印度人民黨（BJP）通過Deepfake技術將候選人的演講視頻翻譯成印度各地方言視頻，幫助他們“前所未有地擴展與接近目標選民受眾”。
Deepfake對於那些意圖迷惑選民的人而言無疑是一把強大的新武器，只是目前來看，Deepfake帶來的“正向反饋”遠遠不及負面影響。在自由民主的輿論氛圍下，每一個政客都無法保證Deepfake這把武器的槍口會不會對準自己。
Deepfake周邊產業的誕生
政治選舉一定程度上代表著一場曠日持久的政治公關事件。相較於大部分政客對Deepfake持抵制態度，他們背後的公關團隊卻靈敏的嗅到了Deepfake這一新興技術的商業價值。
比如上文中提到的，印度大選中印度人民黨（BJP）製作Deepfake各地方言視頻，其背後就是由一家名為The Ideaz Factory的公關公司做策劃製作傳播，而這家公司主要業務就是承接政治宣傳工作。
The Ideaz Factory並非是個例，根據客戶需求定製Deepfake視頻，這已經形成了一條較明朗的產業鏈，很多同類公司如雨後春筍般冒出來。
比如來自以色列的初創公司Canny AI，基於Deepfake技術開發出VDRTM（視頻對話轉換）程序，用於製作本地化廣告和電視節目中的視覺特效製作。
以及來自英國的Synthesia，一家通過研究Face2Face而誕生的公司，主要提供個性化廣告、AI翻譯等解決方案。
2019年Synthesia就曾與英國著名影視廣告公司Ridley Scott Associates合作製作了一條公益廣告視頻，讓足球明星貝克漢姆用9種不同語言宣傳“抗瘧疾”運動，該視頻在YouTube上的觀看次數超過100000次。
除了這些正規的“運營商”，一些個人創作者也開始進入這個市場，通過在線定製一些簡單Deepfake視頻來收取費用，比如1分鐘的視頻收取30美元等。也有部分創作者將Deepfake製作步驟上傳網絡，以及開發自助服務網站來賺取費用。
Deepfake也催生出了其他上下游產業鏈，比如最具爭議性的“數據販賣”。製作Deepfake所需的人臉數據集在網絡上以極其低廉的價格被販賣，在中國大陸，平均八元便可購買到三萬張人臉照片，以及大量“地下製作”的Deepfake色情片被打包販賣，這背後的人臉數據隱私問題不容忽視。
近年來，Deepfake視頻數量呈現急速增加的態勢：網絡安全公司Deeptrace的研究顯示，截至2019年11月，線上媒體平臺有將近14700個Deepfake視頻，而截至2018年12月僅有約8000個。
不難發現，“AI換臉”背後的市場需求十分旺盛，隨著算法開源、教學視頻、自助網站的出現，Deepfake技術門檻被大幅降低，未來將會有更多企業與個人參與到Deepfake自由創作中來。沒有裁判、沒有規則，可以預見2020大選將成為虛假內容集中爆發的重要時刻。
背後的信任危機由誰來買單？
Deepfake可能帶來的干擾與威脅成為近期民眾最憂心的話題。
被稱作“事實坦克”的美國獨立性民調機構皮尤研究中心發佈的民意調查顯示，近70%的受訪者稱虛假新聞和信息極大地影響了他們對政府機構的信心，該調查同時顯示，近一半的受訪者將虛假信息視為比恐怖主義、非法移民等更嚴重、更值得國家著手去解決的首要任務。
隨著Deepfake虛假內容的激增，社會被錯誤的信息極化，民眾對於執政者的不信任感增加，繼而對國家的信賴感降低。這背後的信任危機該由誰來買單？
一切都存在於互聯網上，內容高速傳播的社交媒體平臺讓Deepfake成為一種危險力量。所以，社交媒體平臺有義務在虛假內容影響選舉之前承擔起更大責任來，給公眾“接種疫苗”抵禦“視頻病毒”。
除了可以通過用戶實名認證這一手段來確保公眾在散佈虛假信息之前“三思而後行”，社交媒體平臺需更快地識別出虛假內容並及時消除，這對平臺的內容鑑別要求將大大提高，可以考慮與專門的技術提供方合作。
此外，頒佈新的平臺規定，也是社交平臺積極應對Deepfake必不可少的步驟，既可以防止公眾惡意創建新的Deepfake內容，也限制了此類傳播的渠道。事實上，為應對即將到來的2020大選，Facebook、Twitter、YouTube等平臺都相繼宣佈了針對Deepfake的選舉禁令。
Deepfake帶來的問題已經遠超出了娛樂性，而是現實世界真實存在的風險，“問責制”的建立迫在眉睫 。2019年6月，美國多名議員提出“Deepfakes問責法”，如果該法案獲得通過，Deepfake視頻的創建者將被要求對其生產的視頻貼上標籤，否則將面臨最高五年的監禁。
雖然目前Deepfake政治操縱的事件主要集中在西方歐美國家，但這並不意味身在國內我們就可以放鬆警惕。
目前，快手抖音為主的短視頻在國內如火如荼，隨著5G到來，短視頻內容還會呈高速發展，可是
約束短視頻非法內容的法規卻遠遠跟不上短視頻行業的發展，可以想象，Deepfake攻擊或許就在下一個轉角處。作為民眾，我們有選擇不被假象矇蔽的權利，但大一部分人卻不具備選擇的能力，“社會認同”這一屬性讓我們容易被偏頗甚至是偽造的內容給愚弄。
面對Deepfake的肆意發展，我們切不可一味“冷眼旁觀”，任其自由發展，否則最終買單的不是社交網絡平臺、也不是執政者，真正食下惡果的只會是我們自身。
孵化自清華人工智能研究團的官方團隊，致力於提供領先的安全可控人工智能服務
閱讀更多 RealAI瑞萊智慧 的文章
