据彭博社3月9日报道，白宫社交媒体主管丹·斯卡维诺在推特上发布了一段13秒长的视频片段，视频中美国前副总统、民主党总统参选人乔·拜登说道：“我们只能再选唐纳德·特朗普当总统。”
但其实这一片段是从拜登上周在密苏里州的会议演讲中剪辑出来的，目前这一视频被打上了“受操纵媒体”的标签。
这并非拜登团队第一次使用剪辑的把戏来操纵视频内容，此前他们就上传了含有大段“断章取义”内容的视频，意图误导美国民众。
眼看美国、欧洲、加拿大等多地区的2020总统大选即将到来，很多国家开始担心虚假信息会被参选人员用于操纵选举，煽动毫不知情的民众控制舆论。为了保证大选的顺利进行，部分国家正式向以Deepfake为主的欺骗性内容“宣战”，以保持选举的公正性。
Deepfake让谎言变得更强大
事实上，通过操控舆论来笼络人心已经成为政治选举中常见的戏码。Deepfake没有出现之前，就曾有通过制作伪造视频、发布假消息来干涉选举的事件，那些往往通过视频编辑工具来实现。
2016年美国大选期间，一段南希.佩洛西的伪造视频被大肆传播，视频由特朗普支持者制作，他们的手法非常简单，就是将原始的演讲视频素材放慢以及改变音频音调 ，让视频中的南希.佩洛西看起来像是醉酒了。包括此次拜登团队采用的也是视频剪辑的方式。
不仅仅是美国，在西方国家，假新闻（Fake news）一直是政治选举中长期面临的重要问题。但与视频编辑不同的是，Deepfake伪造视频以假乱真的能力更强，谎言也因此变得更加强大。北美法学界不少学者认为Deepfake会更大程度上影响选举进程，并破坏选举的合法性。
2018年4月，Deepfake首次被用在“政客”身上。当时美国喜剧演员约旦·皮尔制作了一段视频，视频中他被换脸成前总统奥巴马并说出“特朗普是个彻头彻尾的笨蛋”。
自此，自由创作者们如同发现新大陆一般，开始了针对政客的“大规模报复”。美国现总统特朗普、英国首相热门候选人伯尼·桑德斯、英国工党领袖杰里米·科宾等人无一幸免，沦为公众笑柄，形象受损。
除了部分公众借Deepfake恶搞视频表达政治立场以外，也有部分政客将Deepfake作为公关手段来美化自身形象，提升公众好感。
在今年的印度大选中，印度人民党（BJP）通过Deepfake技术将候选人的演讲视频翻译成印度各地方言视频，帮助他们“前所未有地扩展与接近目标选民受众”。
Deepfake对于那些意图迷惑选民的人而言无疑是一把强大的新武器，只是目前来看，Deepfake带来的“正向反馈”远远不及负面影响。在自由民主的舆论氛围下，每一个政客都无法保证Deepfake这把武器的枪口会不会对准自己。
Deepfake周边产业的诞生
政治选举一定程度上代表着一场旷日持久的政治公关事件。相较于大部分政客对Deepfake持抵制态度，他们背后的公关团队却灵敏的嗅到了Deepfake这一新兴技术的商业价值。
比如上文中提到的，印度大选中印度人民党（BJP）制作Deepfake各地方言视频，其背后就是由一家名为The Ideaz Factory的公关公司做策划制作传播，而这家公司主要业务就是承接政治宣传工作。
The Ideaz Factory并非是个例，根据客户需求定制Deepfake视频，这已经形成了一条较明朗的产业链，很多同类公司如雨后春笋般冒出来。
比如来自以色列的初创公司Canny AI，基于Deepfake技术开发出VDRTM（视频对话转换）程序，用于制作本地化广告和电视节目中的视觉特效制作。
以及来自英国的Synthesia，一家通过研究Face2Face而诞生的公司，主要提供个性化广告、AI翻译等解决方案。
2019年Synthesia就曾与英国著名影视广告公司Ridley Scott Associates合作制作了一条公益广告视频，让足球明星贝克汉姆用9种不同语言宣传“抗疟疾”运动，该视频在YouTube上的观看次数超过100000次。
除了这些正规的“运营商”，一些个人创作者也开始进入这个市场，通过在线定制一些简单Deepfake视频来收取费用，比如1分钟的视频收取30美元等。也有部分创作者将Deepfake制作步骤上传网络，以及开发自助服务网站来赚取费用。
Deepfake也催生出了其他上下游产业链，比如最具争议性的“数据贩卖”。制作Deepfake所需的人脸数据集在网络上以极其低廉的价格被贩卖，在中国大陆，平均八元便可购买到三万张人脸照片，以及大量“地下制作”的Deepfake色情片被打包贩卖，这背后的人脸数据隐私问题不容忽视。
近年来，Deepfake视频数量呈现急速增加的态势：网络安全公司Deeptrace的研究显示，截至2019年11月，线上媒体平台有将近14700个Deepfake视频，而截至2018年12月仅有约8000个。
不难发现，“AI换脸”背后的市场需求十分旺盛，随着算法开源、教学视频、自助网站的出现，Deepfake技术门槛被大幅降低，未来将会有更多企业与个人参与到Deepfake自由创作中来。没有裁判、没有规则，可以预见2020大选将成为虚假内容集中爆发的重要时刻。
背后的信任危机由谁来买单？
Deepfake可能带来的干扰与威胁成为近期民众最忧心的话题。
被称作“事实坦克”的美国独立性民调机构皮尤研究中心发布的民意调查显示，近70%的受访者称虚假新闻和信息极大地影响了他们对政府机构的信心，该调查同时显示，近一半的受访者将虚假信息视为比恐怖主义、非法移民等更严重、更值得国家着手去解决的首要任务。
随着Deepfake虚假内容的激增，社会被错误的信息极化，民众对于执政者的不信任感增加，继而对国家的信赖感降低。这背后的信任危机该由谁来买单？
一切都存在于互联网上，内容高速传播的社交媒体平台让Deepfake成为一种危险力量。所以，社交媒体平台有义务在虚假内容影响选举之前承担起更大责任来，给公众“接种疫苗”抵御“视频病毒”。
除了可以通过用户实名认证这一手段来确保公众在散布虚假信息之前“三思而后行”，社交媒体平台需更快地识别出虚假内容并及时消除，这对平台的内容鉴别要求将大大提高，可以考虑与专门的技术提供方合作。
此外，颁布新的平台规定，也是社交平台积极应对Deepfake必不可少的步骤，既可以防止公众恶意创建新的Deepfake内容，也限制了此类传播的渠道。事实上，为应对即将到来的2020大选，Facebook、Twitter、YouTube等平台都相继宣布了针对Deepfake的选举禁令。
Deepfake带来的问题已经远超出了娱乐性，而是现实世界真实存在的风险，“问责制”的建立迫在眉睫 。2019年6月，美国多名议员提出“Deepfakes问责法”，如果该法案获得通过，Deepfake视频的创建者将被要求对其生产的视频贴上标签，否则将面临最高五年的监禁。
虽然目前Deepfake政治操纵的事件主要集中在西方欧美国家，但这并不意味身在国内我们就可以放松警惕。
目前，快手抖音为主的短视频在国内如火如荼，随着5G到来，短视频内容还会呈高速发展，可是
约束短视频非法内容的法规却远远跟不上短视频行业的发展，可以想象，Deepfake攻击或许就在下一个转角处。作为民众，我们有选择不被假象蒙蔽的权利，但大一部分人却不具备选择的能力，“社会认同”这一属性让我们容易被偏颇甚至是伪造的内容给愚弄。
面对Deepfake的肆意发展，我们切不可一味“冷眼旁观”，任其自由发展，否则最终买单的不是社交网络平台、也不是执政者，真正食下恶果的只会是我们自身。
孵化自清华人工智能研究团的官方团队，致力于提供领先的安全可控人工智能服务
閱讀更多 RealAI瑞萊智慧 的文章
