最近，起源於美國的“兒童邪典片”在我國諸多視頻網站上傳播，引發了國人的強烈擔憂。1月22日下午，北京市文化執法總隊發佈了關於查禁“兒童邪典視頻”工作的緊急通知，多家視頻網站迅速展開了自查和清理。

那麼，誰該為“兒童邪典片”肆虐負責？答案是算法的“價值中立”論。而最先遭遇該問題的美國谷歌公司的系列做法，也值得我們借鑑。

算法不應“中立” 而應有普世價值

“兒童邪典片”事件的爆發，算法的“價值中立”論難辭其咎。算法不應該是完全的“價值中立”，而應該具有普世價值。

“價值中立”論，實際上為“兒童邪典片”的擴散提供了肥沃的土壤。

按照算法的“價值中立”論，視頻網站只會根據用戶的觀看記錄和沒有價值傾向的數據進行計算，從而推薦更多同類視頻。畢竟視頻網站的生存靠的是流量，那麼在“價值中立”原則下，什麼視頻內容點擊量高，對網站而要就是“好”的內容，就是要“賣力”推薦的內容，而這正是“兒童邪典片”實現快速傳播的根源所在。

舉個栗子，一旦小朋友小明在不經意間點擊了“兒童邪典片”的相關視頻並好奇地看完了，那麼下次小明打開該視頻網站之後，就會收到網站更多有關“兒童邪典片”的推送；如果小明在該視頻網站上關聯了好友，“兒童邪典片”也會推送給他的好友小天、小紅等等，這樣就會像“流感病毒”一樣迅速擴散開來。

“價值中立”的算法示意圖

“價值中立”的世界,更像是理想國，其建造的前提是傳播的內容都是健康的、充滿正能量的。然而，現實社會中很難出現這樣一種理想局面，內容永遠是良莠不齊、美醜摻雜、善惡混淆的。

既然“價值中立”的基礎不存在，那麼算法就必須具備普世的價值觀。

一方面，算法本身就預設了一定的價值觀，因為選擇都是在價值觀的指引下做出來的。

當不同視頻網站在給用戶推薦電影時，也許會採用不同的選擇——“看過最多的影片類型，就說明他最喜歡，所以要推薦給他什麼”和“他的朋友們看得最多的片子，他也許會喜歡，所以就推薦給他什麼”和“當前本網站最熱播的是什麼片子，他也許會想看，就推薦給他什麼”……

另一方面，正在被廣泛採用的內容審查機制，也是價值觀的體現。目前，我國許多的主流諮詢平臺都針對低俗、敏感、有害內容採取了過濾機制。而針對“兒童邪典片”，北京市文化執法總隊於1月22日發佈了關於查禁“兒童邪典視頻”工作的緊急通知，要求各搜索引擎企業要將 “兒童邪典視頻”相關作品名稱（如“艾莎公主懷孕”“蜘蛛俠寶寶艾莎”等）詞條設為關鍵詞組予以屏蔽。

谷歌用AI和萬名專員 嚴格審查YouTube視頻

“兒童邪典片”源於美國。在美國，這一事件被稱為“艾莎門”（艾莎是廣受喜愛的動畫片《冰雪奇緣》的女主角，也是該類視頻中最常出現的女主角）事件。2017年7月，“艾莎門”事件經《紐約時報》報道後，引發了社會各界的強烈抗議。

針對“艾莎門”事件，谷歌採取了積極的措施應對。

首先，谷歌旗下的YouTube大規模下線了該類視頻並封禁賬號。截至2017年11月,YouTube宣佈已經刪除了超過50個頻道的15萬個視頻。

緊接著，步入2018年，谷歌進一步宣佈將採用AI和人工內容審查的方式來消除人們對不恰當內容的擔憂。這一舉措來源於廣告商的抱怨：YouTube視頻未經過濾，出現了一些涉及兒童以及洛根·保羅等網紅的不良視頻內容，這些內容有些會令人毛骨悚然。這一次，谷歌顯然是花了大力氣——除了採用人工智能軟件外，谷歌將投入10000名內容審查專員，專門來進行內容過濾。

值得注意的是，作為視頻搜索領域的先行者，谷歌還在年初的谷歌雲Next大會上，發佈了自己的視頻識別技術——“Video Intelligence API”，該API可以用於識別視頻中的物體以及其在視頻中具體出現的時間點。也就是說，視頻中出現的一切物體，都能通過技術轉換為可被識別的數字，顯示在播放的時間軸上。顯然，有了視頻識別技術，視頻內容的過濾有望變得更加簡單。