最近，起源于美国的“儿童邪典片”在我国诸多视频网站上传播，引发了国人的强烈担忧。1月22日下午，北京市文化执法总队发布了关于查禁“儿童邪典视频”工作的紧急通知，多家视频网站迅速展开了自查和清理。

那么，谁该为“儿童邪典片”肆虐负责？答案是算法的“价值中立”论。而最先遭遇该问题的美国谷歌公司的系列做法，也值得我们借鉴。

算法不应“中立” 而应有普世价值

“儿童邪典片”事件的爆发，算法的“价值中立”论难辞其咎。算法不应该是完全的“价值中立”，而应该具有普世价值。

“价值中立”论，实际上为“儿童邪典片”的扩散提供了肥沃的土壤。

按照算法的“价值中立”论，视频网站只会根据用户的观看记录和没有价值倾向的数据进行计算，从而推荐更多同类视频。毕竟视频网站的生存靠的是流量，那么在“价值中立”原则下，什么视频内容点击量高，对网站而要就是“好”的内容，就是要“卖力”推荐的内容，而这正是“儿童邪典片”实现快速传播的根源所在。

举个栗子，一旦小朋友小明在不经意间点击了“儿童邪典片”的相关视频并好奇地看完了，那么下次小明打开该视频网站之后，就会收到网站更多有关“儿童邪典片”的推送；如果小明在该视频网站上关联了好友，“儿童邪典片”也会推送给他的好友小天、小红等等，这样就会像“流感病毒”一样迅速扩散开来。

“价值中立”的算法示意图

“价值中立”的世界,更像是理想国，其建造的前提是传播的内容都是健康的、充满正能量的。然而，现实社会中很难出现这样一种理想局面，内容永远是良莠不齐、美丑掺杂、善恶混淆的。

既然“价值中立”的基础不存在，那么算法就必须具备普世的价值观。

一方面，算法本身就预设了一定的价值观，因为选择都是在价值观的指引下做出来的。

当不同视频网站在给用户推荐电影时，也许会采用不同的选择——“看过最多的影片类型，就说明他最喜欢，所以要推荐给他什么”和“他的朋友们看得最多的片子，他也许会喜欢，所以就推荐给他什么”和“当前本网站最热播的是什么片子，他也许会想看，就推荐给他什么”……

另一方面，正在被广泛采用的内容审查机制，也是价值观的体现。目前，我国许多的主流咨询平台都针对低俗、敏感、有害内容采取了过滤机制。而针对“儿童邪典片”，北京市文化执法总队于1月22日发布了关于查禁“儿童邪典视频”工作的紧急通知，要求各搜索引擎企业要将 “儿童邪典视频”相关作品名称（如“艾莎公主怀孕”“蜘蛛侠宝宝艾莎”等）词条设为关键词组予以屏蔽。

谷歌用AI和万名专员 严格审查YouTube视频

“儿童邪典片”源于美国。在美国，这一事件被称为“艾莎门”（艾莎是广受喜爱的动画片《冰雪奇缘》的女主角，也是该类视频中最常出现的女主角）事件。2017年7月，“艾莎门”事件经《纽约时报》报道后，引发了社会各界的强烈抗议。

针对“艾莎门”事件，谷歌采取了积极的措施应对。

首先，谷歌旗下的YouTube大规模下线了该类视频并封禁账号。截至2017年11月,YouTube宣布已经删除了超过50个频道的15万个视频。

紧接着，步入2018年，谷歌进一步宣布将采用AI和人工内容审查的方式来消除人们对不恰当内容的担忧。这一举措来源于广告商的抱怨：YouTube视频未经过滤，出现了一些涉及儿童以及洛根·保罗等网红的不良视频内容，这些内容有些会令人毛骨悚然。这一次，谷歌显然是花了大力气——除了采用人工智能软件外，谷歌将投入10000名内容审查专员，专门来进行内容过滤。

值得注意的是，作为视频搜索领域的先行者，谷歌还在年初的谷歌云Next大会上，发布了自己的视频识别技术——“Video Intelligence API”，该API可以用于识别视频中的物体以及其在视频中具体出现的时间点。也就是说，视频中出现的一切物体，都能通过技术转换为可被识别的数字，显示在播放的时间轴上。显然，有了视频识别技术，视频内容的过滤有望变得更加简单。