From: The Verge; 作者：Iris
去年夏天，一段直拍馬克·扎克伯格的假視頻在Instagram上瘋傳。扎克伯格竟在視頻中聲稱，他已“完全控制了數十億用戶的數據，掌握了他們所有的秘密”。經調查後發現，這原來是一個藝術惡搞項目，旨在指出AI換頭技術和深層偽造(Deepfake)的危害，而非蓄意傳播的虛假信息。
部分用戶認為，像Facebook這樣的大型科技公司尚未準備好應對由AI惡意偽造的虛假信息的衝擊。Deepfake極難控制，難點並不在於識別上的困難，而是因為這類假信息的分佈範圍過於廣泛，任何試圖刪除AI編輯的照片和視頻的措施，最終都會波及到原本無害的網頁內容。
藏匿在審核機制漏洞中的Deepfake
要徹底禁止Deepfake，則意味著部分流行的“一鍵換頭”自拍秀也會跟著被取締，比如Snapchat上的“換頭秀”自拍濾鏡。而要識別並刪除涉及政治方面的、具有誤導性的假信息，則有讓科技公司陷入政治糾紛的風險。考慮到目前沒有真正有效的算法可以自動識別AI編輯的信息內容，無論公司頒佈什麼樣的禁令，都意味著給網絡職業打假人帶來難以負荷的工作量。
瘋傳的馬克•扎克伯格的假視頻
不過，對攻破Deepfake的嘗試並未就此停歇。不久前，Facebook和Reddit共同出臺了針對Deepfake的審核政策，該政策的方向並不是要徹底清除這種偽造模式，而是要進一步縮小“清除”的目標焦點。
Facebook表示，他們將從平臺上移除“有強誤導性的媒體信息”，這些信息是由機器學習技術以普通人看不出的方式所“編輯或合成”的，並且可能誤導人們認為視頻中的人物說了他們實際上從未發表過的言論。但Facebook同時指出，這種取締措施的覆蓋面並不包括那些為製造滑稽效果而編輯生成的信息，比如惡搞和諷刺美國總統的趣味視頻。
左：真實視頻；右：經深層偽造處理的視頻
Reddit的聲明則完全沒有提及Deepfake，而只是表示將刪除那些“以誤導或欺騙的方式起到冒充目的”的媒體信息。考慮到那些無害的趣味視頻，他們補充說，在實踐上將“充分考慮到上下文語境”，這為他們的政策提供了很多回旋餘地。
即便如此，這些政策依舊漏洞百出。威爾•奧瑞馬斯認為，Facebook的措施只能覆蓋被淺層編輯過的媒體信息，比如一些偽造的演講視頻，而那些經過深層偽造的，如偽造政客燒燬國旗或與恐怖分子握手的視頻，則成了漏網之魚。
被配上假嘴和假聲音的假視頻
這就涉及到了如何將Deepfake從平臺審核體制內剝離出來，作為重點處理的對象的問題。儘管近年來，許多人都將“Deepfake”視為“政治錯誤信息”的同義詞，但後者的實際定義要寬泛得多。如今，隨著AI的發展，深度學習技術進一步入駐互聯網，要如何處理Deepfake的問題只會變得越發困難。
另一個角度：學著與深層偽造“和平共處”
在2020年，各種應用程序的出現簡化了信息發佈的流程，其中，使用AI來編輯視頻的應用程序將被普及開來，可以預見，隨著它們的傳播，經過AI造假的信息將得到更大範圍的擴散。
舉個例子：近日，一款名為Doublicat的應用程序已在iOS和Android平臺上發佈，它支持用戶藉助機器學習技術，將不同人臉粘貼到動態圖上。目前，它只能在預先選定的gif動圖中使用，但Dounlicat的首席執行官表示，在一種名為GAN的機器學習方法的驅動下，未來他們將開放允許用戶在任何可檢索到的內容中插入人臉。
Doublicat的效果圖
這會讓Doublicat成為一項“助力”偽造技術發展的程序嗎？答案是肯定的。但它是否違反了網絡審核機制呢？——不，它的運作內容和方式仍然合法合規。
來瞧瞧它的輸出質量吧。如下方的gif動圖所示，它展示了將用戶的臉粘貼在影星克里斯·普拉特身上的畫面。技術上，這很令人印象深刻，畢竟這款程序只需幾秒鐘就能將一張照片變成動圖。但這些動圖可永遠都不可能被誤認為是真貨。
除了Doublicat之外，字節跳動也一直在試驗Deepfake功能（儘管他們表示這些功能不會被整合到應用程序中)，Snapchat最近也推出了全新的換臉工具。
從長遠來看，淡化“Deepfake”的概念實際上是有好處的。人們在將這些消費功能都歸咎為Deepfake的同時，也在某種程度上將它的內涵商品化了。如果Deepfake變得司空見慣，不再如此引人注目，
那麼人們就會對這種技術放下戒備，並把關注的重點轉移到媒體惡意散佈錯誤信息以及政客進行虛假政治宣傳的問題上。正如Facebook和Reddit最近的公告所說，這些遏制Deepfake的努力實質上是不必要的。核心問題並沒有得到改變：誰可以在互聯網上“撒謊”，而又該由誰來決定他們是否在真地撒謊？換言之，Deepfake也許並不那麼可怕，它所暴露出的問題——不完善的網絡審核機制——才是最大的威脅。
-The End-
將門是一家以專注於發掘、加速及投資技術驅動型創業公司的新型創投機構，旗下涵蓋將門創新服務、將門技術社群以及將門創投基金。將門成立於2015年底，創始團隊由微軟創投在中國的創始團隊原班人馬構建而成，曾為微軟優選和深度孵化了126家創新的技術型創業公司。
將門創新服務專注於使創新的技術落地於真正的應用場景，激活和實現全新的商業價值，服務於行業領先企業和技術創新型創業公司。
將門技術社群專注於幫助技術創新型的創業公司提供來自產、學、研、創領域的核心技術專家的技術分享和學習內容，使創新成為持續的核心競爭力。
將門創投基金專注於投資通過技術創新激活商業場景，實現商業價值的初創企業，關注技術領域包括機器智能、物聯網、自然人機交互、企業計算。在近四年的時間裡，將門創投基金已經投資了包括量化派、碼隆科技、禾賽科技、寬拓科技、杉數科技、迪英加科技等數十傢俱有高成長潛力的技術型創業公司。
如果您是技術領域的初創企業，不僅想獲得投資，還希望獲得一系列持續性、有價值的投後服務，歡迎發送或者推薦項目給我“門”: [email protected]
閱讀更多 將門創投 的文章
