虛造人生，AI換臉有多作惡

日前，因涉嫌過度收集用戶個人信息，陌陌旗下AI換臉軟件“ZAO”APP遭到微信封殺——停止分享鏈接訪問，對此“ZAO”官方回應稱：軟件將會改進，但需要時間。

其實，AI換臉技術因造假、涉及隱私，巨大的危害性，從其誕生之日起，就被主流輿論關上了閘門。

AI換臉作惡： 明星換臉色情片

2017年12月，Reddit論壇上，ID為DeepFakes的匿名網友，發佈了蓋爾•加朵的一段“情色”視頻，“神奇女俠”的臉被貼在一個AV女郎的臉上，視頻畫面不便描述。

此後，DeepFakes移花接木，利用AI換臉技術，將斯嘉麗•約翰遜、麥茜•威廉姆斯 、泰勒•斯威夫特等好萊塢女星，植入AV影片當中，三個月內DeepFakes的關注者就已將達到8萬人。

而此時，FakeApp等AI換臉創業項目開始孵化，用戶下載APP，只需要五個步驟就能製作換臉的情色視頻：AI自動識別幾百張照片後，就能將前女友、同學、同事、朋友、鄰居的臉嫁接到AV女演員身上，報復性心理製作的色情片大肆傳播。

互聯網技術作惡，無法維權，迫於壓力，次年2月，Reddit關閉了DeepFakes的賬號，但DeepFakes直接開源AI換臉項目的代碼，潘多拉魔盒被打開，AI換臉技術從男性報復性的色情片移植，走向了更邪惡的深淵。

“川普總統完全就是個笨蛋”，AI識別對抗

“川普總統完全就是個笨蛋”，2018年4月，導演Jordan Peele利用AI換臉技術偽造奧巴馬演講，56個小時製作出的模型，真假難辨。該視頻6個小時內，在Twitter 上播放量200 多萬次，點贊量5萬多次，轉發量2 . 6萬。

2019年6月，扎克伯格躺槍，“想象一下，一個人，完全掌握著數十億人的數據，他們的秘密、他們的生活、他們的未來。我將這一切都歸功於Spectre，Spectre向我展示了誰控制了數據，誰就控制了未來。”在偽造的CBSN電視臺上，被換臉的扎克伯格口出狂言，直言要掌握用戶數據。

內基國際和平基金會發布文章《國家如何應對DeepFakes？》，文章認為DeepFakes正在給政府與企業帶來破壞性的影響。

“保護用戶免受假新聞的誤導”，因擔心AI換臉技術會惡意會干擾2020年美國總統大選，2019年6月，美國眾議院舉行聽證會。

最終，美國眾議院承諾審視“AI賦能的虛假內容引發的國家安全的威脅，要採取哪些措施才能發現並進行打擊，公共部門、私營部門和整個社會要怎麼做才能應對這種嚴峻的‘後真相’的未來。”

AI換臉技術能夠誤導公眾，但並非毫無破綻，例如早前的假視頻中，人物從來不眨眼；說話時，身體沒有任何身體動作……微小的面部細節是識別的突破口。

加州大學伯克利分校和南加州大學聯合開發AI識別系統，能夠識別視頻中人物說話時的微小動作，從而判斷真假，目前該系統識別偽造視頻的準確率達到92%。同時，美國國防部推出“Media Forensics”計劃，而該計劃只是打擊“AI製造偽造內容”系列計劃其中之一；

登不上臺面的AI換臉

技術無國界，2019年初，B站《射鵰英雄傳》剪輯中，黃蓉的臉被用DeepFakes換成了楊冪，效果逼真，這是AI換臉技術第一次被國內大眾所知。

但其隱含的色情、造假等特性，讓AI換臉的黑色產業鏈不斷地下發芽生根，淘寶、鹹魚貼吧上，換臉技術合成的色情視頻2元/部、定製視頻200元/小時、400塊錢就能買來全套軟件製作明星色情視頻，視頻畫面高度仿真。

在國內，AI換臉技術早已成熟，但將其推向臺前，陌陌是國內第一家，而背後的動機來源於自身的經營壓力。2019年第二季度財報顯示，目前陌陌直播業務貢獻達到75%，過於依賴直播業務，一旦直播紅利期消退，陌陌的生存空間將被極大壓縮。

“陌陌最強大的優勢就是做陌生人社交“，陌陌離職員工在接受媒體採訪時表示，AI換臉社交是陌陌的必然。

但斯嘉麗•約翰遜在接受媒體採訪時表示，“互聯網是一個巨大的黑暗蟲洞，可是吞噬掉每一個人，我們經常維權無果。”