虚造人生，AI换脸有多作恶

日前，因涉嫌过度收集用户个人信息，陌陌旗下AI换脸软件“ZAO”APP遭到微信封杀——停止分享链接访问，对此“ZAO”官方回应称：软件将会改进，但需要时间。

其实，AI换脸技术因造假、涉及隐私，巨大的危害性，从其诞生之日起，就被主流舆论关上了闸门。

AI换脸作恶： 明星换脸色情片

2017年12月，Reddit论坛上，ID为DeepFakes的匿名网友，发布了盖尔•加朵的一段“情色”视频，“神奇女侠”的脸被贴在一个AV女郎的脸上，视频画面不便描述。

此后，DeepFakes移花接木，利用AI换脸技术，将斯嘉丽•约翰逊、麦茜•威廉姆斯 、泰勒•斯威夫特等好莱坞女星，植入AV影片当中，三个月内DeepFakes的关注者就已将达到8万人。

而此时，FakeApp等AI换脸创业项目开始孵化，用户下载APP，只需要五个步骤就能制作换脸的情色视频：AI自动识别几百张照片后，就能将前女友、同学、同事、朋友、邻居的脸嫁接到AV女演员身上，报复性心理制作的色情片大肆传播。

互联网技术作恶，无法维权，迫于压力，次年2月，Reddit关闭了DeepFakes的账号，但DeepFakes直接开源AI换脸项目的代码，潘多拉魔盒被打开，AI换脸技术从男性报复性的色情片移植，走向了更邪恶的深渊。

“川普总统完全就是个笨蛋”，AI识别对抗

“川普总统完全就是个笨蛋”，2018年4月，导演Jordan Peele利用AI换脸技术伪造奥巴马演讲，56个小时制作出的模型，真假难辨。该视频6个小时内，在Twitter 上播放量200 多万次，点赞量5万多次，转发量2 . 6万。

2019年6月，扎克伯格躺枪，“想象一下，一个人，完全掌握着数十亿人的数据，他们的秘密、他们的生活、他们的未来。我将这一切都归功于Spectre，Spectre向我展示了谁控制了数据，谁就控制了未来。”在伪造的CBSN电视台上，被换脸的扎克伯格口出狂言，直言要掌握用户数据。

内基国际和平基金会发布文章《国家如何应对DeepFakes？》，文章认为DeepFakes正在给政府与企业带来破坏性的影响。

“保护用户免受假新闻的误导”，因担心AI换脸技术会恶意会干扰2020年美国总统大选，2019年6月，美国众议院举行听证会。

最终，美国众议院承诺审视“AI赋能的虚假内容引发的国家安全的威胁，要采取哪些措施才能发现并进行打击，公共部门、私营部门和整个社会要怎么做才能应对这种严峻的‘后真相’的未来。”

AI换脸技术能够误导公众，但并非毫无破绽，例如早前的假视频中，人物从来不眨眼；说话时，身体没有任何身体动作……微小的面部细节是识别的突破口。

加州大学伯克利分校和南加州大学联合开发AI识别系统，能够识别视频中人物说话时的微小动作，从而判断真假，目前该系统识别伪造视频的准确率达到92%。同时，美国国防部推出“Media Forensics”计划，而该计划只是打击“AI制造伪造内容”系列计划其中之一；

登不上台面的AI换脸

技术无国界，2019年初，B站《射雕英雄传》剪辑中，黄蓉的脸被用DeepFakes换成了杨幂，效果逼真，这是AI换脸技术第一次被国内大众所知。

但其隐含的色情、造假等特性，让AI换脸的黑色产业链不断地下发芽生根，淘宝、咸鱼贴吧上，换脸技术合成的色情视频2元/部、定制视频200元/小时、400块钱就能买来全套软件制作明星色情视频，视频画面高度仿真。

在国内，AI换脸技术早已成熟，但将其推向台前，陌陌是国内第一家，而背后的动机来源于自身的经营压力。2019年第二季度财报显示，目前陌陌直播业务贡献达到75%，过于依赖直播业务，一旦直播红利期消退，陌陌的生存空间将被极大压缩。

“陌陌最强大的优势就是做陌生人社交“，陌陌离职员工在接受媒体采访时表示，AI换脸社交是陌陌的必然。

但斯嘉丽•约翰逊在接受媒体采访时表示，“互联网是一个巨大的黑暗虫洞，可是吞噬掉每一个人，我们经常维权无果。”