Facebook拥有一整套内部工具，可以尝试优化其神经网络，以便在移动设备上运行。尽管如此，该公司发现难以驾驭复杂的拜占庭智能手机市场，数千种不同的芯片组，大多数性能不佳以及软件堆栈都不能胜任这项工作。
移动设备上的人工智能有点混乱，这对Facebook来说是一个令人头痛的问题，Facebook的广告收入中有90％来自使用移动服务的用户。
这些是Facebook最近发表的一篇研究论文的一些内容，他们详细介绍了他们如何不得不想出各种各样的技巧来解决移动设备的硬件缺陷。
其中包括调整应用程序中有多少“线程”来实现多种不同芯片设计和功能的共同点。这意味着他们通常无法“优化”给定设备的代码。
他们写道，尽管Facebook拥有巨大的资源，但整个行业都需要做很多事情。
该论文“Facebook机器学习：理解边缘推理” 发表在Facebook研究网站的出版物页面上，由Carole-Jean Wu和25位同事撰写。它已提交给明年2月在华盛顿特区举行的IEEE高性能计算机体系结构国际研讨会。
作者概述了双管齐下的问题：越来越多的人需要在手机上执行AI。但设备中芯片和软件的格局是“狂野的西部”，不同部分的混乱，不同的软件API，以及通常较差的性能。
在“边缘”设备上需要应用程序，包括智能手机，还有Oculus Rift耳机和其他设备，以执行“推理”，这是计算机使用其训练有素的神经网络来回答问题的机器学习的一部分。
作者引用了一些事情，例如对将要上传到Instagram的图像进行实时推断，作为需要本地处理的任务，以避免进入云进行推理的延迟。
但考虑到野外的大量智能手机，Facebook正面临着严峻的硬件。
他们指出，该公司的“神经网络引擎部署在超过10亿个移动设备上”，包括“超过两千个独特的SOC [片上系统，半导体不仅包括微处理器，还包括其他计算模块]。” 这是一万种不同型号的手机和平板电脑。
平均而言，这些手机中的CPU并不是那么出色：“几乎所有的移动推理都在CPU上运行，大多数已部署的移动CPU内核都是旧的和低端的。” 具体来说，今年，他们看到的所有智能手机中只有四分之一是运行2013年或之后设计的CPU。
閱讀更多 luoxi10449892 的文章
