人們常常說，眼見為實。可是今天，我們真的不能相信這句話了。
圖片、語音、視頻，這些可以被我們當做證據或憑證的東西，都可以完美的“造假”。視頻“造假”，似乎是難度最大的，然而利用AI技術，不懂視頻後期的用戶也能輕鬆通過輸入足夠樣本的圖像供機器學習，以此換掉視頻中人物的臉。
2017 年，一個名為 Deepfakes 的匿名用戶在 Reddit 論壇上公佈了一段代碼，簡單易用且堪稱完美的“換臉”視頻出現了。此後，Deepfakes 在社交網絡上大火，有 Reddit 用戶甚至據此開發了一款 app，讓更多公眾可以使用這項功能。
此後，DeepFake便成為了所有看起來像真的一樣的“假視頻”的代名詞，當然，也可以稱DeepFake為人臉交換技術。怎麼稱呼，全憑我們對待他的態度。
每個人都是潛在的“換臉”目標
利用DeepFake技術，你只需要一個GPU和一些訓練數據，就能夠製作出以假亂真的換臉視頻。 這是AI技術的突破，卻也讓人覺得恐慌。這意味著，任何一張臉都可以被替換。
理想的應用場景當然是在好萊塢視效公司製作電影時使用，以及類似的應用場景。然而，讓其聲名大噪和被封殺的原因，確是DeepFake被濫用在了並不高尚的地方。那些造假色情視頻中的女明星，被調侃的政客及知名人士，以及每一個普通人，都感到了恐慌。
圖：被換臉的尼古拉斯凱奇
著名演員斯嘉麗·約翰遜在華盛頓郵報的採訪中表示：“讓任何一個人成為這項技術的攻擊目標只是時間問題。”在過去的一年中，斯嘉麗·約翰遜已經被疊加到數十個性愛視頻中，其中一個“走光”視頻已經在一個主要的色情網站上觀看了超過 150 萬次。
圖：演員斯嘉麗·約翰遜
另一個事實是，由谷歌開發的功能強大且廣泛使用的人工智能軟件增強了這些栩栩如生的“DeepFake”視頻在互聯網上的成倍增長，許多基於 Google 人工智能庫的 DeepFake工具都是公開且免費使用，這讓谷歌面對來自外界的大量爭議。儘管谷歌於2018 年 9 月在其搜索引擎名單中添加了針對“非自願合成色情視頻”的屏蔽選項，但這對於阻止這些色情視頻的創作和傳播仍無能為力。
而且，有律師表示，這些虛假的色情視頻雖然有被控告誹謗、身份盜用和欺詐的風險，但視頻創作者仍可能受到美國第一修正案的保護。
AI也無法識別出“假視頻”，95%矇混過關
既然利用AI技術使得換臉那麼容易，那麼這些“假視頻”是否同樣可以利用AI技術，被識別出來呢？
用“AI”對抗“AI”，結果會如何？
近日，來自瑞士Idiap研究所的兩位科學家對人臉識別方法檢測DeepFake的效果進行了較為全面的測評 ，並發表了論文。
Idiap研究所是瑞士的一家半私人非營利性研究機構，隸屬於洛桑聯邦理工學院和日內瓦大學，進行語音、計算機視覺、信息檢索、生物認證、多模式交互和機器學習等領域的研究。兩位科學家分別是Pavel Korshunov （Idiap 研究所博士後）和 Sébastien Marcel（Idiap 生物識別安全和隱私小組負責人、瑞士生物識別研究和測試中心主任），她們在論文中指出，
隨著換臉技術的不斷髮展，更加逼真的DeepFake視頻，將對人臉識別技術構成更大的挑戰。她們先是測試了兩套前沿且先進的人臉識別系統：一個是性能最優的圖像分類模型 VGG，另一個是基於 Facenet 的算法。
首先她們創建了一個DeepFake視頻集用於測試，這些視頻是從VidTIMIT數據庫的視頻中生成的。通過使用不同調整的參數集生成了具有低視覺質量（LQ：64x64）和高視覺質量（HQ：128x128）的視頻各320段。
考核標準是誤識率 (FAR) ，即兩段視頻裡的人物不相同、卻被AI判斷為同一個人的概率 (數值越低越好) 。
結果顯示：分辨真假視頻錯誤率高達 95%！
接下來，她們還應用了其他方法進行測試。包括
唇形同步方法（lip-sync）以及圖像質量測量法 (Image Quality Measures，簡稱IQM) 和支持向量機 (Support Machine Vector，簡稱SMV) 結合在一起的方法等。
結果依然令人遺憾。
首先，基於唇部同步的算法不能檢測人臉交換，因為GAN能夠生成與語音匹配的高質量面部表情。因此， 目前只有基於圖像的方法才能有效檢測DeepFake視頻。
其次，IQM+SVM系統對DeepFake視頻的檢測準確率較高，但使用HQ模型生成的視頻具有更大的挑戰性，這意味著越先進的人臉交換技術將愈發難以檢測。
AI的兩面：假臉生成和真臉識別算法的對抗賽
不久前，英偉達的研究人員還提出的一種新的生成器架構。該生成器架構可基於風格遷移，將面部細節分離出來，並由模型進行單獨調整，從而大幅度超越傳統GAN等模型，生成的面部圖像結果簡直逼真到可怕，可以說是GAN 2.0。（瞭解GAN 2.0，點擊此處）
上面這些都是假的！
So，在假臉生成和真臉識別算法的對抗賽中，造假的“彈藥”又更充足了一些。
但是隨著公眾對於識別造假的呼聲越來越高，越來越多的研究人員開始著手研究數據庫和檢測方法。
在這場對抗賽中，成長的無疑是“AI”，至於那些由於濫用而造成的傷害，任然取決於人類自己！
更多精彩內容，關注望潮科技微信號（ID：tech_beat）
閱讀更多 望潮科技 的文章
