仇恨言論太猖獗 Facebook怎麼搞定?

點擊上方藍字關注我們

保持犀利風格,持續科技新聞報道及業界深度剖析

Facebook是全球最大的社交網絡科技公司,日活用戶14.7億,月活用戶22.3億。這樣的成績在帶來榮譽的同時也面臨著巨大的壓力。數據洩密事件的發酵使得Facebook聲譽不斷受損。

一方面,用戶規模增長放緩,給公司的可持續發展帶來了影響。另一方面,Facebook的廣告業務一定程度上依賴於獲取個人信息,以達到精準投放。但這一模式隨著信息安全意識的提高和監管環境的變化,將變得困難重重。

不過Facebook在AI領域的探索從未停下,AI技術也為Facebook的諸多產品注入了活力。甚至有人說,如果沒有AI,那就沒有今天的Facebook。

仇恨言论太猖獗 Facebook怎么搞定?

兩大AI核心部門是堅實力

在Facebook的十年規劃中,人工智能是重中之重。在這其中,FAIR研究室偏重AI基礎研究,AML研究室偏向機器學習應用。兩所研究室看上去反映了學術與產業之間的對立關係,但也成就著Facebook想要引領AI與機器學習技術的決心。

Yann LeCun 是 Facebook人工智能實驗室負責人,卷積神經網絡發明者。他的加入讓這家公司告別了沒有正式研究室的日子,由他領導的人工智能研究室(FAIR)主要負責基礎科學和長期研究。由Joaquin Candela領導的機器學習應用部門(AML)主要負責把最新的技術應用到既有的Facebook產品上。

FAIR和AML都會做研究以及工程驅動的開發。“我會說FAIR把75%的精力投入到研究,25%的精力放在了工程上。而AML是將75%的精力投入到工程上,25%的精力放在研究上。FAIR和AML 的分界線是特意模糊的,許多員工都同時參與兩個實驗室的項目。”

這兩大研究室的野心是很明確的,他們想要教機器學會常識。就像fAIr研究室目前最大的項目是對話系統的自然語言理解,這一項目對於Facebook的智能語音助手發展奠定堅實基礎。

與此同時,這兩大研究室更傾向於外向型的研究。他們把做的許多東西都公佈出來,並開源大量代碼。通過研究社區的一部分,把技術和科學進步都推進到極致。正如他們自己所期待的,通過確保自己具有相關專長,並掌握目前最先進的技術,在相應方向上驅動進步。

這個想法也與LeCun有關,他過著業界和學界的雙重生活,所以他深信成功的關鍵在於投身於開放性。“我曾經見過許多朋友離開了具有開放性文化的實驗室,加入了大型科技企業,他們試圖改變企業的文化,但都失敗了。”LeCun 說。在他加入 Facebook之前,他問 Facebook的第一個問題便是,Facebook是否真的會保持對開源世界和開放性文化的承諾。

在他的帶領下,Facebook的AI研究室一直在研究和把研究轉化成產品這二者之間找平衡。雖然科技公司都很難做到這一點,但Facebook好像已經取得了部分成功,動態的長短期結合研究讓其在AI和機器學習領域贏得了不少聲譽。

仇恨言论太猖獗 Facebook怎么搞定?

Facebook人工智能實驗室負責人Yann LeCun

AI技術推動新產品的發展

在面對大量的質疑和監察的當下,Facebook藉助AI技術推出了兩套系統,用於阻止用戶自殺和消除仇恨言論。這不僅有利於挽回Facebook此前一落千丈的形象,更有助於平臺日後的長期健康發展。

實際上,阻止用戶自殺的這一項目並不是最新的,開展工作已近一年。最初這套AI系統事通過主動檢測所有帖子中潛在的自殺念頭,並在必要的時機將心理健康資源發送給存在自殺風險的用戶的朋友,或聯繫當地緊急熱線。

此前Facebook並沒有披露太多技術細節,但實際上電腦識別用戶自殺表現其實是一件很困難的事,具體表現在網絡環境下的語境和語意不太便於理解。很多時候,用戶即便寫出過激的言論,但也只是發洩而已。為了克服這些問題,Facebook提供了大量數據供機器學習,包括積極的和消極的。

當前最大的進展就在消極例子的處理上,經過運營團隊的努力,現在機器還會聯繫評論文本內容進行分析。

除此之外,用於檢測仇恨性言論的AI系統,能夠對Facebook提高內容審查力度起到重要作用。今年7月,Facebook官方就曾表示將開始刪除旨在煽動或加劇暴力的虛假信息,包括帖子和受人操縱的圖像。

上個月也曾出現發生在緬甸、斯里蘭卡和印度之間的暴力事件。最終Facebook刪除了18個賬號和52個與緬甸軍方有關的網頁。

一般來說,計算機用光學字符識別方法來監察內容,但由於Facebook信息量過大,所以需要更大規模的系統。

這一系統的代號為“Rosetta”,能夠幫助計算機閱讀和理解每天發佈到社交網絡的數十億張圖像和視頻。如此一來,Facebook可以更容易地發現平臺上違反了反仇恨言論規則的內容。

硬實力從“芯”出發

最近,Facebook基礎架構副總裁Jason Taylor證實,Facebook的確成立了一支專門與芯片供貨商合作的芯片團隊,同時也在開發ASIC人工智能芯片。能夠看見的是,Facebook與其他科技巨頭一樣,正試圖降低對英特爾、高通、英偉達等芯片廠商的依賴。

另外在2018 Facebook F8開發者大會上,Facebook和小米聯合推出的VR一體機Oculus Go,採用高通驍龍 821芯片,售價199美元起。Facebook還在研發一系列智能音箱,上市時間預計推遲至10月,首年訂單比原計劃減少了兩成。

可以看出,Facebook開發芯片也是為了能更好地控制產品研發程序,進一步做到軟硬件融合。同時,定製芯片還可以改進其在人工智能方面的硬實力。


分享到:


相關文章: