数据中心的ASIC也有AI了

在eSilicon和Nervana的联合努力下,第一代AI ASIC问世。

三年前,Nervana还是一家名不见经传的AI芯片创业公司,但它打定主意要冒险进入一个充满未知数的新领域——设计定制化AI加速器。时隔三年,Nervana已经被英特尔收入旗下,在定制化AI加速器领域取得突破的希望也越来大。

在被英特尔收购时,Nervana有一款名为Engine的处理器,该处理器是一款基于硅内插器的多芯片模块。 它具有TB级的3D内存,被使用低精度浮点数学的相连神经元的3D环面结构围绕。 使用低精度(现在成为机器学习的主流思想)是该产品的一个特点,因为它比当时使用的通用GPU更有优势。

现在,Nervana与eSilicon的合作拉开了AI ASCIC的序幕。之前已有传闻,eSilicon与Nervana在AI ASIC上一直有合作,并在Nervana被收购后将其交付给了英特尔。

Nervana的第一代AI ASIC称为Lake Crest,是AI加速器最受关注的定制化设计之一。Lake Crest原型可通过形成阵列和多片分布式GEMM操作进行扩展,支持模型并行训练可实现A(6144,2048)和B(2048,1536)矩阵大小的近线性缩放和96.2%的缩放效率。该方案实现了芯片对芯片理论带宽(2.4Tbps)的89.4%,延迟小于790ns。英特尔计划于2019年推出这一产品。

利用自己在AI / 2.5D系统设计方面的积累,eSilicon本周推出了一个名为“neuASIC”的机器学习AI平台。据介绍,该平台包括“一个针对AI的功能库,这些功能可以快速组合并配置以创建自定义AI算法加速器。”

如同Nervana一样,新手AI芯片设计者与eSilicon这样的公司合作是一条稳妥的道路。毕竟,ASIC专家可以在AI ASIC方面提供足够的、坚实的技术见解,而在硬件领域这些技术见解来自于多年实践中经验和教训的总结。

许多公司都在计划推出针对特定AI工作负载进行优化的AI芯片,它们所面临最大的障碍就是AI算法不断发生变化。正如eSilicon业务和企业发展副总裁Patrick Soheili所指出的那样,每个人都知道ASIC可以为AI加速提供最好的功能和性能。但麻烦的是,一个芯片设计师好不容易把AI ASIC芯片设计出来了,却往往过时了。

这正是eSilicon的技术所希望的市场切入点。通过使用诸如Design Profiler和AI Engine Explorer等工具,eSilicon和其他第三方开发的各种IP可在neuASIC平台上使用,可配置为“AI瓦片”。Soheili指出,通过使用eSilicon工具的旋钮,用户可以对各种候选架构进行早期的功耗、性能和面积分析。

确定了需要添加和定制的功能,eSilicon可以将它们作为AI标题添加到neuASIC平台。这将为用户提供所急需的灵活性。

简而言之,neuASIC平台提供了一个可扩展的、可配置的带有可交换AI瓦片的ASIC底座。

业内人士指出,eSilicon并不以AI技术而闻名(如突破性的AI处理器架构),其强势之处在于打包一系列IP,包括一些现成的产品,这样可以为用户提供“定制ASIC的起点”。不过,对于AI ASIC来说,设计者仍然需要了解如何用构建模块构建出新颖的产品而不是完全依赖于模块化。

编 译:信软网


分享到:


相關文章: