DeepFake被用於犯罪證據偽造，案件走向撲朔迷離！
最近，被譽為“刑偵劇金字塔”的日本影視劇《相棒》迎來第18季的完結，在最終話中，《相棒》將鏡頭對準了DeepFake這一偽造技術，其中的作案手法令人脊背發涼。
殺人兇手用“AI換臉”脫罪，警方無一識破
《相棒》第18季最終話講述了這樣一個案件——國防技術顧問桂川宗佐在家中臥室被殺害，現場的筆記本電腦中記錄了一段桂川和一名女性的“性愛錄像”。
由於沒有現場目擊證人，這段錄像便成為了破案的關鍵。
據調查，視頻中的女性是內閣信息研究室反情報中心的柾庸子，柾庸子也承認視頻中的女子是她自己，但是根據案發時間推斷，她擁有完美的不在場證明，而且死者家門口的錄像在案發當天也沒有拍到她的任何蹤影。
與此同時，某雜誌社在網上發佈了一段視頻：視頻顯示柾庸子在夜店和桂川發生了衝突，疑似感情糾紛。一切證據都指向柾庸子存在犯罪動機。
但警員杉下右京覺得整個案件推進太過順利，懷疑是有人刻意而為，他甚至覺得，視頻可能是由最新的Deepfake技術偽造的。
但經警察局的電腦天才鑑定，視頻內容是完全真實的。
與此同時，死者當時的女朋友，桂川集團贊助的城和工科大學的人工智能專業特任副教授——鬼石美奈代，也引發了警方的注意。
但她出示了一段她當天拍攝的視頻，顯示案發當時，她在立川的車站，距離案發地非常遠。由於有視頻的證明，她很快被排除出了嫌疑人範圍。
關鍵時刻總是出現視頻，警員杉下更加察覺到不太對勁。最終經過層層追蹤調查，鬼石美奈代承認了她犯罪的事實。
原來，鬼石美奈代和桂川雖然是男女朋友關係，但是桂川對柾庸子的美貌念念不忘，出於嫉妒，鬼石美奈代殺了桂川，並且
利用Deepfake技術將自己與桂川的性愛視頻中出現的畫面替換成柾庸子的臉，讓她來頂罪。
並且，雜誌社發佈的夜店視頻、案發當天車站視頻也都是鬼石美奈代一手偽造的。
一連串假視頻將警方騙得團團轉，甚至完全偏離搜查方向。
其中還有一段插曲，劇中的電腦天才利用DeepFake技術偽造了一段“柾庸子綁架鬼石美奈代”監控錄像，導致整個警局出動追捕柾庸子。
但其實這一視頻的造假難度很低，按劇中原話來講，只要有相應的軟件，外行人也可以製作出來。
當然，整起案件更為人後怕的是，直至案件結束，仍沒有人能夠破解鬼石美奈代製作的DeepFake視頻。如果不是她親口承認，警方甚至無法給她定罪。
視頻原本作為一種視聽證據，它更加可信，也更接近於真實情況。但DeepFake出現之後，這一切都需要再打上問號。
就如PS的出現讓圖片的真實性不再，或許，在不久的將來，我們也再難以求證視頻的真偽。
捕捉真相還是掩蓋事實？人類的眼睛太好欺騙
無獨有偶，2019年的熱門英劇《真相捕捉》同樣表現出了對DeepFake的高度關注。
《真相捕捉》的故事圍繞兩段錄像展開。
肖恩是被國家授予過英勇勳章的國家英雄，但阿富汗的一次戰鬥中，因為戰友頭盔攜帶的攝像設備拍下一段肖恩
“射殺戰俘”的畫面，導致肖恩“槍殺戰俘罪”站上軍事法庭。
不過，辯護律師漢娜找來一位資深影像工程師證實視頻存在“音頻滯後”問題，所謂的“射殺視頻”其實肖恩先對恐怖分子發出後退的警告，對方不聽勸阻他才開槍射擊。
最後肖恩被當庭釋放，但他僅僅自由了三個小時，當天晚上，他就因為一段
“毆打併綁架漢娜”的錄像再次被警方逮捕。
但肖恩的記憶中，當天晚上他與漢娜在車站告別後，漢娜獨自上公交離開，並沒有發生所謂的毆打等事件。
難道監控錄像存在問題？但是這是實時錄像，而且肖恩的描述與畫面內容大相徑庭，不是畫面延遲就可以解釋通的。
經過肖恩的不斷搜查，最終發現，
這段錄像完全是基於DeepFake換臉技術偽造的！並且是汗娜一手策劃！隨著真相浮出水面，整起案件也牽扯出更大的黑幕。
原來，在全國佈置的閉路監控下，軍情六處等在內的國家情報安全組織，為了監控和控制國家懷疑的危險人物，他們會在適當的時候偽造監控影像，再利用司法程序，約束和制轄這些“危險人物”對於國家和國民的可能存在的危險性行為。
他們將這種偽造視頻證據的行為稱為“更正”，試圖採用“偽造正義”以實現真正的正義。
但“更正”行動也導致部分普通人因為DeepFake虛假監控視頻而遭受控訴甚至面臨牢獄之災，為了給這些無辜者平反，反“更正”陣營開始出現，律師汗娜則是該陣營的組織者。
為了讓民眾知道“監控錄像內容不一定真實”，汗娜想到了
“偽造犯罪”的方式，策劃了肖恩毆打併綁架自己的虛假事件。汗娜提前找來演員提前拍攝好視頻內容，然後將演員的臉換成肖恩。
隨後，他們入侵監控系統，將提前錄製的DeepFake偽造視頻剪輯到閉路電視錄像中，製造肖恩暴力行兇的假象。
然後當“罪犯”肖恩被繩之以法之後，他們再將真實視頻公佈於眾，通過製造反差，徹底摧毀民眾對於視頻監控的信任。
看完整個故事之後，不免讓人倒吸一口涼氣。
監控系統一直是最有用的證據收集系統，法庭之上，第三方的監控視頻甚至可以被視作“鐵證”。但在《真相捕捉》的世界裡，作為最直接證據的監控影像卻接二連三地“說謊”，甚至被作為情報武器，用於矇蔽民眾的國家行為。
監控畫面是可以篡改的、證據是可以捏造的、真相是可以被掩蓋的...《真相捕捉》雖然是以一個犯罪故事為藍本，但背後對DeepFake等新科技的探討值得反思，在科技越來越發達的當下，我們就真的能更容易的觸及真相嗎？
答案似乎並不樂觀。
當影視照進現實，我們該如何捍衛真實？
雖然《相棒》、《真相捕捉》講述的故事有藝術渲染的加持，描述的社會恐慌似乎被放大。但仔細來看，所有關於DeepFake惡意用途的猜想也並非空穴來風。
去年，就曾曝光一起真實發生的Deepfake詐騙案，英國某能源公司高管在一個小時之內通過匈牙利供應商向一詐騙犯轉賬24萬美元，約175萬元人民幣，僅僅是因為詐騙犯通過AI技術仿造了其母公司CEO的聲音。
該高管表示，在整個通話過程中，老闆輕微的德國口音都展現得淋漓盡致，該高管完全沒有任何的懷疑，直到被要求再次轉賬時才發覺了事件異常。
DeepFake等制偽技術的出現讓信息的真實性無法保證，而且隨著黑客的專業知識和AI技術的日益成熟，DeepFake換臉不再需要昂貴的特效團隊，僅僅一臺性能尚可的計算機就能夠完成。
造假成本不斷降低，社會將越來越有可能受到虛假信息的影響。“眼見未必為實，耳聽未必為真”，現實世界的真實感正在崩塌。
當影視作品照進真實，未來，社會的真實性將如何捍衛？值得我們深思。
首先，
提高對DeepFake等偽造技術的意識是有必要的，我們要對我們所信任的互聯網更加警惕，當看到一條新聞或視頻的時候，學會理性思考，追溯其真實性，如果不能百分之百確定信息是真實的，至少可以做到不主動分享。只要公眾對造假技術的認識不斷提高，深度偽造的影響就會進一步減弱。
其次，我們需要可靠的新聞來源，這就需要Facebook、Twitter等社交媒體平臺以及各大主流新聞媒體加強對偽造內容的審核，從源頭阻斷虛假信息的傳播與氾濫。
當然，最重要的就是，我們需要一把能夠應對虛假信息的“武器”，在無法肉眼分辨真假的時候，幫助我們釐清事實真相，也就是開發出深度偽造內容的檢測產品或工具。
不過目前的偽造技術仍在持續迭代，只有當出現新的偽造手段才能升級相關的防禦舉措，所以，這必將是一場持續的攻防對抗戰。
正如，《相棒》中的電腦天才青木年男所說的：“用AI技術去對抗AI技術，誕生出新的DeepFake，就開發能夠識穿它的程序，也就是所謂的貓捉老鼠。”
歡迎關注【瑞萊智慧RealAI】
孵化自清華人工智能研究團的官方團隊，致力於提供領先的安全可控人工智能服務
