內容概要：YouTube、Facebook、Twitter 等社交平臺一直在花大力氣進行內容審核，尤其是使用機器學習技術逐步替代人工。但近期 YouTube 決定暫時叫停這一推進，返聘年初解僱的人工審核員。
原創：HyperAI超神經
關鍵詞：內容審核 機器學習
YouTube 在今年初，將內容人工審核團隊大量裁撤，全部替換成為 AI 進行內容審核。
所以，今年 4-6 月整個第二季度裡，YouTube 線上的所有視頻，都是由 AI 進行官方的內容審核。這也是 YouTube 有史以來第一次整一季度，沒有人工審核員參與內容初審。
這一大步跨越，帶來了不小的後果，YouTube 在近期叫停這項舉措，並且大批返聘在年初解僱的人工審核團隊。
AI 替換人工：下架視頻數創紀錄
AI 審核被叫停的重要原因之一，就是 AI 審核的規則相較於人工，更為嚴格，甚至會導致誤傷。
根據 Google 在定期的透明度報告中提到：在 2020 年 AI 接管內容審核的 4-6 月中，共有 1100 萬個視頻被 AI 標記違規並下架，這些視頻主要來自於美國、印度和巴西。
但是，在今年的第一季度裡，被鑑定違規並下架的視頻，僅僅只有 660 萬。而 從人工換成 AI 之後，被下架的視頻數幾乎翻了一番。
因為 AI 審核遭下架的視頻，佔全部下架視頻的 95%（數據來源：Google 官方透明度報告）
在被 AI 下架的 1100 萬個視頻中，多數為色情、虛假、涉恐犯罪類型，但是也有不少是誤傷。
其中，就有 32 萬個被 AI 標記下架的視頻提出了申訴，最後近半數都通過二次審核，並重新上線。而在過去，進行申訴的視頻，只有 25% 左右可能重新上線。
YouTube 的審核 AI，以一己之力，讓 YouTube 的播主們瑟瑟發抖，花更多時間自查內容，一時間怨聲載道讓 YouTube 頭疼不已；大量的申訴，還給 YouTube 團隊，增加了不少重新審核的工作量。
人工再上位：時機尚未成熟，AI 仍需努力
在年初 YouTube 裁減人工審核團隊前，全職或外包的審核崗位多達 10000 個。
這些人工審核員分佈在 Google 的全球辦公室，或是外包供應商的各個辦公點。
萬人團隊：巨大運營成本
人工審核員的崗位要求並不低，比如要負責中東地區的內容審核崗位，需要掌握阿拉伯語和阿拉伯方言語系，並對中東地區上傳視頻進行審核，以便及時標記出涉及恐怖、暴力、煽動內容的視頻。
這樣的工作，每週需要審核 500 小時以上的視頻，初級崗位的薪水可以達到 18.5 美元/小時，年薪可達 37000 美元左右。
再資深的內容審核崗位，需要掌握一些的法律知識，不僅能得到 Google 全職員工的待遇，還可以獲得近 100000 美元的年薪。
從菲律賓的青年外包工人，到灣區的風控運營，都在內容審核中發揮著重要作用
風光的背後，Google 也同時在承擔著不小的成本，這也導致了在今年疫情之際 YouTube 對人工審核崗位的裁撤。
這次返聘 YouTube 也提及：疫情讓人工審核成本變高、難度加大。當初迫不得已，必須在人工干預不足和 AI 過度干預兩者之中，選擇了 AI。
人工審核：邊緣職業身心俱疲
內容審核不是一份簡單的工作，不僅每週有固定的工作指標，還要長時間面對兒童色情、暴力、恐怖類型的畫面，往往也會讓人身心俱疲。
《華盛頓郵報》、《財富雜誌》等美國主流媒體均對內容審核員這一職業，做出過深度報道。接受採訪的內容審核員，無一例外都表達了這份職業，對自己的身心健康產生了強烈的負面影響。
《財富雜誌》用帶著防毒面具的審核員，比喻審核工作給人帶來的心理創傷
媒體的輿論影響也敦促了科技公司對這類崗位進行了一系列的改善，比如限制每週觀看不適視頻的時間上限、定期的心理治療等措施。
人工還是 AI：不用著急下定論
人工審核的支出、對人心理的傷害、機器學習的技術進步，這些都推動了近年各平臺對自動化內容審核的研究和快速應用。
AI 雖然有一定的誤傷幾率，但是在對違規內容的審查中，的確展現了超過人工審核的高效。
YouTube 首席產品官 Neal Mohan 向英國《金融時報》回應人工審核重回崗位時，提到了一組數據「被 AI 標記刪除的 1100 萬個視頻中，超過 50% 的視頻，在沒有用戶播放前就被下架；超過 80% 的視頻，播放 10 次以內就被下架。」
YouTube 作為大規模用 AI 代替人工的先行者，勢必會踩坑，但同時也為其他公司甚至全社會，指明瞭人與 AI 協同關係中更加清晰的發展方向。
這樣的實驗雖然折騰，但著實有必要。這需要公司有吃螃蟹的精神、承擔輿論非議的勇氣和快速善後的決心。同樣開放透明的數據，也讓媒體和社會在接受未來的不確定性，有更多的共識和信心。
誰知道寫文章的我，是不是個 AI 呢？
參考來源：
The Verge：《YouTube brings back more human moderators after AI systems over-censor》、《THE TERROR QUEUE》
Fortune：《Why Thousands of Human Moderators Won’t Fix Toxic Content on Social Media》
華盛頓郵報：《Content moderators at YouTube, Facebook and Twitter see the worst of the web — and suffer silently》
Wired：《As humans go home, Facebook and YouTube face a coronavirus crisis》
