深度學習作為時下最熱門的科技概念——人工智能（AI）的子概念之一，是學習樣本數據的內在規律和表示層次，在這些學習過程中獲得的信息對諸如文字、圖像和聲音等數據的解釋有很大的幫助，其最終目標是讓機器能夠像人一樣具有分析學習能力，能夠識別文字、圖像和聲音等數據。目前正被廣泛地運用於通訊、工業製造、交通、金融、醫藥、傳媒、娛樂等各行業。生活中，人們可以利用深度學習的人臉識別進行身份認證和便捷支付等行為，一度使其被奉為科學技術的又一次革命。
然而，前段時間“明星換臉”技術於社交媒體的爆紅，引發了巨大的社會爭議。“深度偽造”是利用深度學習技術中的“對抗生成網絡”模型形成的智能視頻處理技術，“明星換臉”則是該技術最為典型的應用。利用該技術基於娛樂或其他目的偽造的政客演講、電影片段等足以以假亂真，引起了公眾的警覺和國家安全部門的注意。在深度偽造技術水平日新月異而鑑別手段相較被動的現實環境下，利用兼具真實性、便捷性和快速演化性的深度偽造進行心理戰正逐漸成為可能。
01
深度偽造技術的概念與原理
“深度偽造”（Deepfakes）由英文“深度學習”（deep learning）和“偽造”（fakes）二詞結合而來，表明該技術是基於深度學習的一種新型信息篡改與替換手段。
與深度學習不同的是，深度偽造技術是一種“無監督學習，通過對抗生成網絡 (Generative Adversarial Networks）”。在自我優化中生成偽造的數據。對於這種技術邏輯，只要有足夠的數據和運算速度，理論上生成模型會在“對抗”中持續自我迭代並不斷優化偽造視頻。2019年3月，一則技術人員利用該技術換臉“楊冪”的事件在輿論上引起熱議，國內第一次掀起“換臉”熱潮。隨後不久，明星“換臉”手機應用程序“ZAO”上架開放下載，短時間內便衝上各大應用商店下載排行榜第一位，一時間網絡社交媒體上充斥著網民將自己與明星“換臉”出沒於電影片段或演出場合的視頻，極大的滿足了網民的“明星夢”。
但曇花一現後由於“ZAO”中涉及的隱私條款因涉嫌侵犯公民隱私權而遭到輿論的聲討，導致應用程序下架。事實上，深度偽造“換臉”技術早在幾年前就在美國有過重要嘗試，如Cycle GAN，可以說是所有人臉轉換早期的重要嘗試。Face 2 Face則可以說是一次“標準的、規矩的”的嘗試。但當下國外最火熱、最廣為流傳的深度學習換臉模型毫無疑問是Deepfake。值得一提的是，該技術還首先被國外色情網站Reddit的用戶用來將好萊塢明星與色情視頻中的豔星“換臉”，從而招致網民廣泛傳播，給當事明星造成了極大的困擾。
▲對抗生成網絡示意圖
不僅只有視頻“換臉”，深度偽造技術通過數據採集和學習，還能模仿目標對象的語音。早在2018年1月，國內科技企業科大訊飛公司董事長劉慶峰就曾在發佈會上現場利用深度偽造框架下的語音合成技術演示美國總統特朗普對發佈會致以賀詞，“特朗普”甚至還能以一口流利的中文向大家問好。用劉慶峰的話說，“我們用機器模仿特朗普講話，連美國人都信以為真”。
此外，來自英國倫敦大學的研究團隊還研發出了一種基於深度學習的全新智能算法，只需提供目標對象的筆跡樣本即可實現完美“復刻”，難以辨認。除了語音和筆跡、指紋、文風甚至是微表情等個人獨有的生物和思維特徵難題也已全面被深度偽造技術攻克，可以說，只要採集了足夠的數據，深度偽造完全能製造出“另一個你”。這個“你”不受你的意識控制，卻可以向你的社交、生活和工作圈發佈本尊從未授意過的信息——不論你是士兵、營長、司令還是總統。由此，深度偽造技術的心理戰潛力可見一斑。
02
深度偽造技術的戰場運用策略
早在深度偽造技術初露雛形時，美國國家安全部門就敏銳地察覺到了該項技術存在著威脅國家安全的巨大隱患，因而開始在政策層面、法律層面和技術層面加大了對該技術的限制力度，美國參眾兩院議員相繼推出了《2018年惡意偽造禁令法案》《深度偽造責任法案》《2019年深度偽造報告法案》以防止別有用心者惡意利用該項技術。與此同時，深度偽造技術應用於作戰的巨大潛能也被察覺，有眾議員在2019年6月提請眾議院授權開展深度偽造鑑別技術競賽，要求美國國防部高級研究計劃局（DARPA）實施一項有競爭力的獎勵計劃，刺激技術的研究、開發或商業化，實際上是激勵人才將該項技術軍事化，從而應用於心理戰和輿論攻防。
▲深度偽造“換臉”過程
在與敵國的爭鋒中，國際社會的輿論支持也是必要的，哈佛大學肯尼迪政府學院下屬的Belfer 研究中心曾發佈的一篇《AI與國家安全》報告指出：“敵對國家的網絡間諜在竊取一國的真實機密文件後，同時洩露該真實文件和一些相應的偽造文件，再利用深度偽造技術合成相應的音、視頻材料來佐證相關的偽造文件，該偽造文件的可信度將極大提升，由此操縱公眾輿論，影響國家政權穩定。”
當前各國領導人的外貌、語音甚至筆跡、文風數據極易獲取，美國兩任總統奧巴馬和特朗普的換臉視頻已在全球範圍內廣泛傳播，2019年初，比利時某政黨甚至發表了特朗普批評比利時在氣候變化問題立場的視頻，引發網友對美國政府幹預比利時內政的強烈不滿，這一視頻後來也被證實是基於深度偽造技術的假視頻。而視頻從引起爭議到最終闢謠之間有一個時間差，“不怕事後被人罵，只怕當時沒人信”。
深度偽造的產品結合社交網絡的漣漪效應，可以帶來大規模的以訛傳訛式的擴散，充分利用這個時間差，在反制力量還未作出反應時就進行有利於己的國際輿論引導，對敵進行輿論壓制，搶佔話語高地，贏得國際支持，一定程度上能夠起到可觀的效果。
第一是針對指揮系統，戰場環境中，可以提前籌備規劃利用深度偽造技術干擾敵軍指揮效果，如AI換臉和語音合成地方軍政領導人的外貌和語音對基層部隊傳達假指示；偽造敵高層簽名對部隊下達假文件、假命令。
第二是針對敵戰地宣傳系統，如“換臉”敵新聞主播插播假新聞，干涉敵宣傳系統。第三是針對敵一線部隊，如模仿敵方領導人語音進行現場指揮和戰場喊話。戰場情況瞬息萬變，信息溝通不暢會對指揮員決策造成巨大影響，利用深度偽造技術合成的假音頻、假視頻、假文件投送至敵軍內部，在信息封鎖的情況下會極大地考驗指揮員的判斷能力，並增加指揮員出錯概率，一定程度上能夠欺騙敵軍或在敵軍中造成混亂，有效干擾敵指揮系統以致決策錯誤或延誤最佳時機，從而削弱敵戰鬥力和戰鬥意志，也有機會實現策反、勸降等目標。
▲科研團隊偽造的奧巴馬視頻效果
前線之外，於敵後也可以運用深度偽造技術來達到作戰目標，政治上可合成敵軍政要員電視講話或偽造簽名文件，達到醜化軍政要員或誤導群眾的目的。或是發佈合成的敵一線部隊高層投降宣言，動搖群眾的戰爭意志，營造出大廈將傾的錯覺。
伊拉克戰爭中，美軍在進攻巴格達前夕對伊拉克民眾實施的心理戰，宣稱守衛巴格達的共和國衛隊某師師長已率眾投降，實際情況確是當事人很快現身說法，導致美軍謊言不攻自破，美軍的心理戰行動也淪為笑柄。試想若此時有深度偽造技術的介入，合成該師長的投降宣言或電視講話，美軍宣傳可信度也會大大提高。
此外，由於深度偽造技術的參與，一定程度上會影響敵後群眾對信息的信任度——無論是官方還是非官方消息。2016年美國大選，有民眾就懷疑俄羅斯情報部門利用深度偽造技術傳播虛假新聞從而導致特朗普贏得大選，當人們傾向於懷疑接觸到的所有信息均為偽造之時，社會混亂程度就已加深了。
03
深度偽造技術的發展趨勢
深度偽造不同於以往相對簡單的PS圖像篡改或是其他的視頻、音頻篡改技術，而是基於訓練的樣本進行AI的深度學習。樣本數據越多，計算機對目標對象的就模擬越真實，最後達到以假亂真的地步。深度偽造還結合目標對象的臉型、語音、微表情、筆跡等生物特徵進行綜合學習，這是以往任何偽造技術所不能比擬的。
從2017年深度偽造技術剛誕生時用的卷積神經網絡到現在最新的對抗生成網絡，無論是實現智能“換臉”的計算能力還是逼真程度都有了很大提升，已經讓大眾越來越難辨真假，若非經過專門訓練以及專業鑑別手段的支持，普通人難以發現深度偽造視頻的破綻，曾有瑞士科學家嘗試用最前沿的人臉識別系統去識別“換臉視頻”，結果錯誤率高達95%。
▲合成媒體主播進行虛假宣傳
和傳統的AI技術相對比，深度偽造技術的門檻相對較低。好萊塢大片中的特效之所以具有真實感，背後是視頻深度處理技術的壟斷和巨大的資金投入，普通公眾根本無法涉足。
深度偽造技術的出現則大大提高了視頻深度處理的普及性，不僅採用更為智能的“無監督學習”算法，更無須安裝編程語言和開源軟件庫就能運行，更難得的是，深度偽造的“源數據”如目標對象視頻、語音、文風等在網絡中極易獲得，使得訓練數據非常豐富，有助於提高產品真實性。隨著越來越多的免費而便捷的應用程序出現，普通人只要少數目標對象的高清視頻，不到12小時就能製作出專業的換臉視頻，且一旦做出來，結合快速發展的社交媒體網絡，成品就可以幾乎以零成本進行擴散。
深度偽造技術使用的對抗生成網絡具有極強的自我適應性，不需要用戶過多的人工干預，它會通過在對抗生成網絡中不斷自我優化，不斷實現升級換代，從而達到“真實的可怕”的水平。在深度偽造技術發展早期，需要人工尋找包括目標對象視頻、語音、圖片在內的素材用來構成“餵養”深度學習的“源數據”，還需要自行尋找合適的替換視頻。
國外知名的科技網站“主板”在2018年曾經預測深度偽造技術在尋找“源數據”方面要想實現自動化至少需要1年時間，但事實上，這次自動化迭代只用時1個月。之前，人工識別深度偽造的視頻還可通過“目標對象是否眨眼”“微表情是否自然”以及“面部邊緣是否有鋸齒”等作為參照辨別真假，DARPA甚至研發出了一款“反變臉”的AI刑事偵查檢測程序，但隨著偽造技術的不斷升級換代，以上鑑別手段已部分失效，防偽技術還須不斷進步才能跟上深度偽造的更新換代速度。在照相術誕生之前，人們通過語言和文字、繪畫傳遞信息，由此產生了許多不切實際的傳說和謊言，因此智者堅信“耳聽為虛，眼見為實”。而在AI深度偽造技術快速發展的今天，不僅“耳聽為虛”，“眼見”也不一定“為實”了。
在假視頻的複雜度、鑑別難度和傳播速度屢創新高的當下，將深度偽造技術應用於作戰是一種前衛的選擇，任何國家的安全部門都無法真正承諾己方的宣傳完全真實而把信息偽造的主動權拱手讓人。久而久之，在“劣幣驅逐良幣”的氛圍影響下，各國加強深度偽造技術的研發和戰場應用，受到影響的官兵會不信任上級指令，普通群眾則會加大對媒體的不信任感，畢竟不僅當前發生的事情，連既定的歷史都可以偽造了。未來，深度偽造技術與鑑別技術會在不斷的競爭對抗當中快速發展，彼時一則信息的真假恐怕只有發佈者自身知曉了。
閱讀更多 無錫軍民融合公共服務 的文章
