郭一璞 发自 云凹非寺
量子位 报道 | 公众号 QbitAI
怕啥来啥。
Deepfake，现在终于搅合到政治中了。
在德里议会选举前一天，一个被Deepfake过的政客讲话视频在WhatsApp上流传。
视频中，这名政客对竞争对手发起了撕逼，批判另一个党派的政客，并给自己党派拉票。
选举前，有5800个WatsApp群发了这个视频，覆盖1500万人。
WhatsApp印度人是当微信用的，相当于一个假视频传遍了几千个微信群，瞬间大家都被蒙骗了。
是谁用Deepfake攻击谁
要理清Deepfake攻击的具体故事，先要介绍一下事件中的党派和人物：
印度人民党（BJP），印度两大党之一，现在的印度总理莫迪就是这个党的。在印度，总理才是拍板的，总统只是个logo，不管事。
人民党是这个事件中发起撕逼的那一方。
印度国大党（INC），印度两大党的另外一方，因为在德里这座城市混的比较惨，这个党主要负责打酱油。
印度平民党（AAP），虽然在全印度，它比不上前面的两大党，但它在德里混得很好。
2015年上一次德里议会选举，平民党拿到了70个席位里的63席，是占绝对优势的议会多数党，现德里首席部长（地方长官）Arvind Kejriwal当然也理所应当是平民党的。
在这起事件中，平民党是被人民党撕的对象。
但是，视频的内容却很正常，完全不是我们想象的那种“Deepfake一句我不该说的话”的样子。
在这个流传很广的视频里，发起撕逼的人民党的党魁Manoj Tiwari说，现在德里的首席部长、出身平民党的Arvind Kejriwal不遵守诺言，工作没做好，明天我们应该选出一个莫迪领导的政府。
意思就是：选我们呀！
但端倪在于，流传出来的Deepfake视频有两个版本，一个视频里这位党魁先生说的是英语；另一个视频里，这位党魁先生说的是印度哈里亚纳邦的方言哈里亚纳语 (Haryanvi)，属于西印度语族。
众所周知，印度人说的语言很多很杂，全国性的官方语言是印地语和英语，但各个邦还有自己认定的官方语言，加起来有24种国家和地方的官方语言。而且，还有哈利亚纳语这种非官方语言，总共使用人数超过1万的语言就有122种。
受教育程度较高的政治人物们应该都会说英语，但想得到“下沉市场”的选票，说英语人家八成听不懂，但要是政治人物的每个演讲都用122种语言说一遍，先学会这么多种语言，政治人物就已经成为耄耋老人了。
所以，人民党才动用了Deepfake，方便生产自家政治人物不会说的语言的视频。
背后公关公司：下次搞美国
不过，要策划制造传播Deepfake视频，并不是一件容易的事儿。
原来，德里人民党的背后，还有一家公关公司，名叫The Ideaz Factory。
这家公司的主页上写着，他们接政治宣传的活儿：
德里人民党IT部门与这家公关公司合作。公关公司找到了专业的配音演员，模仿视频主角的口音说哈里亚纳语的台词，而IT部门只负责对口型，不涉及表情的变化。
至于具体用到的算法，美国媒体Vice找到了纽约罗切斯特理工学院专家询问，专家认为他们用的是英伟达的vid2vid。
虽然最终效果仍然有一些不容易被注意的瑕疵，但这段哈里亚纳语的视频已经成功传播到了那些从哈里亚纳到首都德里的“农民工”们那里，有一些家庭主妇反馈说，非常高兴能看到这名政治人物说自己的语言。而英文版的视频则用来影响德里本地的城里人。
这家公关公司首席策略官说，这是他们首次主动使出Deepfake武器，他们也在考虑之后在印度比哈尔邦的选举和2020美国大选中用上类似的技术。
Deepfake，全球开花
不过，Deepfake用在政治领域这可不是头一次，此前，川普和奥巴马都被人用Deepfake做过娱乐视频，还有一些别的国家领导人也被Deepfake过。
最神奇的故事发生在非洲的加蓬。
2018年10月，加蓬世袭总统阿里·邦戈（Ali Bongo）生病出国治疗，此后很长一段时间都没有在公众面前露面，而政府对总统的情况也没有说的很明白，导致阴谋论四起，甚至有人认为总统已经故去。
但很快，新的一年要来了，按旧例，总统要在这个时候发表新年致辞，好多人都眼巴巴的看着这位总统到底还能不能行。
结果，让人万万没想到的是，加蓬政府玩了一回骚操作：
放了个Deepfake的总统新年致辞视频。
不信你看，这位总统全程就没眨眼：
谁都能看出，这个视频不太对劲。
一周后，加蓬的一些军方人士认为国家发了个假视频，总统的真实状态一定非常不好，于是发动了一次政变。虽说非洲不是什么太平地方，但加蓬这个国家已经53年没有发生政变了。
不过，政变最终没能成功，几个小时后，参与政变的人就死的死、被抓的被抓了。
在意大利也有Deepfake政客视频出现。
去年9月23日的一档意大利讽刺节目里，播出了一段意大利前总理马泰奥·伦齐（Matteo Renzi）侮辱其他意大利政客的视频。
虽然视频中前总理的身体是演员的，节目组只是把头部Deepfake了一下，但是居然有民众信了，看完之后民众深深的怀疑自己所生活的这个国家……
毕竟，被Deepfake模仿的前总理本人都觉得模仿的很像嘛！
走向法律的笼子
看到这些奇葩的故事，你可能要怀疑人生了。
不过好在，各国政府也在想办法限制Deepfake滥用。
去年10月，加州的法案就出台了法案，禁止在选举前60天内Deepfake候选人，防止制造错误影响选举。
而在政治之外，Deepfake可能带来的谣言和色情问题也一直被关注，我国网信办去年也出台了规定，用技术手段做出来的假视频需要标明是假的，不能随意传播。
One More Thing
最后，既然WhatsApp上会有假视频，那微信群里的那些小视频里会不会也有假的？
所以啊，上网还是要不断擦亮眼睛，不要被虚假信息蒙骗，毕竟有视频也不一定有真相呦。
参考链接：https://www.vice.com/en_in/article/jgedjb/the-first-use-of-deepfakes-in-indian-election-by-bjp?utm_source=reddit.comhttps://observers.france24.com/en/20191008-deepfake-video-former-italian-pm-matteo-renzi-sparks-debate-italyhttps://www.tfcaijing.com/article/page/2c912196682cb95801682e42f5160abf
— 完 —
量子位 QbitAI · 头条号签约
关注我们，第一时间获知前沿科技动态
閱讀更多 量子位 的文章
