Facebook擁有一整套內部工具，可以嘗試優化其神經網絡，以便在移動設備上運行。儘管如此，該公司發現難以駕馭複雜的拜占庭智能手機市場，數千種不同的芯片組，大多數性能不佳以及軟件堆棧都不能勝任這項工作。
移動設備上的人工智能有點混亂，這對Facebook來說是一個令人頭痛的問題，Facebook的廣告收入中有90％來自使用移動服務的用戶。
這些是Facebook最近發表的一篇研究論文的一些內容，他們詳細介紹了他們如何不得不想出各種各樣的技巧來解決移動設備的硬件缺陷。
其中包括調整應用程序中有多少“線程”來實現多種不同芯片設計和功能的共同點。這意味著他們通常無法“優化”給定設備的代碼。
他們寫道，儘管Facebook擁有巨大的資源，但整個行業都需要做很多事情。
該論文“Facebook機器學習：理解邊緣推理” 發表在Facebook研究網站的出版物頁面上，由Carole-Jean Wu和25位同事撰寫。它已提交給明年2月在華盛頓特區舉行的IEEE高性能計算機體系結構國際研討會。
作者概述了雙管齊下的問題：越來越多的人需要在手機上執行AI。但設備中芯片和軟件的格局是“狂野的西部”，不同部分的混亂，不同的軟件API，以及通常較差的性能。
在“邊緣”設備上需要應用程序，包括智能手機，還有Oculus Rift耳機和其他設備，以執行“推理”，這是計算機使用其訓練有素的神經網絡來回答問題的機器學習的一部分。
作者引用了一些事情，例如對將要上傳到Instagram的圖像進行實時推斷，作為需要本地處理的任務，以避免進入雲進行推理的延遲。
但考慮到野外的大量智能手機，Facebook正面臨著嚴峻的硬件。
他們指出，該公司的“神經網絡引擎部署在超過10億個移動設備上”，包括“超過兩千個獨特的SOC [片上系統，半導體不僅包括微處理器，還包括其他計算模塊]。” 這是一萬種不同型號的手機和平板電腦。
平均而言，這些手機中的CPU並不是那麼出色：“幾乎所有的移動推理都在CPU上運行，大多數已部署的移動CPU內核都是舊的和低端的。” 具體來說，今年，他們看到的所有智能手機中只有四分之一是運行2013年或之後設計的CPU。
閱讀更多 luoxi10449892 的文章
