進入移動互聯網時代，藉助於各種即時通訊工具的普及，信息的傳播變得越來越容易，對於大眾來說這是偉大的進步。但是，與此同時謠言、涉黃等違規信息也是滿天飛。這不僅給大眾的身心健康造成了損害，也給網絡環境造成了極大破壞。為了淨化網絡環境，國家互聯網信息辦公室出臺了《互聯網群組信息服務管理規定》，明確了"誰建群誰負責""誰管理誰負責"的原則。這也意味著，對於文本內容的雲端檢測成為重中之重。
以往的檢測工作主要是靠鑑黃師這種人工操作，存在這時效性差、風險高、規模過大時無法匹配等諸多問題。為提高檢測效率，幫助大眾構建一個和諧的網絡空間，華為雲推出了內容審核服務（Content Moderation），主要涵蓋了文本內容檢測、涉政敏感檢測、視頻內容審核、圖片內容檢測、圖像反黃檢測等。除此之外，華為雲還提供自定義的文本敏感內容檢測方案。
今天咱們就從華為雲提供的自定義的文本敏感內容檢測入手，通過一個測試來看看華為雲的內容審核服務到底有多神奇。
先來介紹一下測試的原理：用戶在後臺文本內容檢測服務上面自定義配置，並勾選不指定檢測場景時啟用，可對全部過濾生效。也就是自己建一個關鍵字庫，生效規則與其他預設一致。
測試的結果顯示，華為雲文本內容檢測基本滿足了常用文本檢測，支持自定義詞庫來加以補充，再加上實時更新，使得整體開發體驗更為安全和智能。
這主要體現在以下幾個方面：
1、在涉黃、涉政、辱罵、廣告等單個測試時準確無誤，在多種組合的場景下，華為雲也可以根據返回結果分別查看各個屬性下的不同的犯規詞語。
2、對於網絡用語的灌水文本測試正常，檢測出灌水文本反應迅速。值得一提的是，由於網絡流行與變更速度很快，而華為雲的網絡灌水詞庫在進行實時更新，可以實現自我優化。
3、在測試中，華為雲最具特色的一項功能就是可以自定義詞庫，這項功能在內容檢測標準容易變化的場景下能夠更好的控制文本內容；包括政治敏感詞、網絡用語等詞庫還做到了實時更新，使得整體服務更加安全。
除了文本之外，華為雲還可以精準識別色情圖片、造謠視頻等違規內容。得益於在數據分析以及智能識別等領域的技術沉澱，華為雲不僅針對現有網絡中資源較多的內容檢測準確率很高，而且在一些變數較高的內容識別檢測時也可以通過更新學習庫以及更新檢測內容標準實現準確率的提升。
此外，在實際應用中，直播行業對於內容審核依賴度非常高。華為雲已經成功幫助某視頻直播業務實現整體內容審核的智能化升級，審核效率提升了 90%，能夠智能化檢測"色情內容"、"涉政"和"暴力"等內容，並且問題視頻可以在 3 分鐘之內快速處理掉。
最後，希望華為雲能夠在淨化網絡環境方面持續發揮價值，幫助我們營造一個和諧、健康、積極向上的網絡環境。
閱讀更多 IT新科技 的文章
