新智元AI WORLD 2018世界人工智能峰會
對於大型互聯網企業來說，及時阻止兒童性虐待內容（CSAM）的傳播是屬於第一優先級的任務。但對於一線工作人員來說，這項工作是異常艱鉅而困難的，必須要靠人類來識別並刪除這些不良內容。
不過今後，這些工作人員可能會稍微鬆一口氣，谷歌今天發佈了旨在幫助識別這類內容的免費AI軟件。
在這一領域，大多數技術解決方案都是通過根據以前識別出的不良內容目錄，來檢測現有的圖像和視頻。（比如由微軟開發的PhotoDNA圖像識別工具，現在Facebook和Twitter等都在使用。）這類軟件可以有效阻止人們共享之前已標記的兒童性虐待內容，但無法捕獲未標記的非法內容。人類必須介入並親自對內容進行審查。
谷歌AI工具自行對材料進行標記，鑑黃效率提升700%
這正是谷歌本次推出的AI軟件大顯身手的地方。它能利用機器視覺方面的專業知識，對標記的圖像和視頻進行排序，並“優先推送最可能的兒童性虐待內容以供審查”，從而協助人類工作人員。這應該會使審查速度變得更快。
谷歌表示，在一項試驗中，在這款AI工具的幫助下，審查員“在相同時間內對兒童性虐待內容的操作量提高了700％以上。”
互聯網觀察基金會（IWF）副首席執行官Fred Langford表示，該軟件將“有助於我們這樣的團隊更有效地調配有限的資源。目前，我們只使用純人力來進行內容審核，然後判斷能不能通過。這款AI工具將有助於我們對審核內容進行分類。”
互聯網觀察基金會（IWF）副首席執行官Fred Langford
IWF位於英國，是致力於阻止兒童性虐待內容在線傳播的最大組織之一，由谷歌等大型國際科技公司提供資金。
距離完全自動化鑑黃可能僅需一兩年
IWF聘請內容鑑別團隊來識別這些不良內容的圖像，並在十幾個國家提供舉報渠道，以便互聯網用戶報告可疑內容。該機構自己也會開展調查行動，鎖定會共享兒童性虐待內容的網站，並與執法機構合作來關閉這些網站。
Langford表示，由於現在對AI存有一些“異想天開的觀點”，IWF將對谷歌的AI工具進行全面測試，以瞭解其表現如何，如何將其融入人類審查人員的工作流程中。
他還表示，這類工具是向邁向全自動內容審核系統的第一步，可以識別以前很難識別的材料，無需人為干預。 “這種分類器在我們這個領域的地位有點像“聖盃”一樣”
不過他還說，應該只在範圍明確的案件中信任這類工具，以避免讓不良內容漏網。“幾年前我認為這種分類器的誕生可能還要等五六年，但現在我認為，在某些情況下，
我們距離完全自動化識別工具的誕生可能只有一到兩年的時間了。”參考鏈接：
https://www.theverge.com/2018/9/3/17814188/google-ai-child-sex-abuse-material-moderation-tool-internet-watch-foundation
https://www.blog.google/around-the-globe/google-europe/using-ai-help-organizations-detect-and-report-child-sexual-abuse-material-online/
熱門文章：
新智元AI WORLD 2018大會倒計時 15 天
門票已開售！
新智元將於9月20日在北京國家會議中心舉辦AI WORLD 2018世界人工智能峰會，邀請機器學習教父、CMU教授 Tom Mitchell，邁克思·泰格馬克，周志華，陶大程，陳怡然等AI領袖一起關注機器智能與人類命運。
大會官網：
http://www.aiworld2018.com/
活動行購票鏈接：
http://www.huodongxing.com/event/6449053775000
活動行購票二維碼：
閱讀更多 新智元 的文章
