如何用现代技术建立一个完全功能的人工大脑

@SANDEEP RAVINDRAN,2019年5月1日

如何用现代技术建立一个完全功能的人工大脑

上图:智能芯片:由物理学家Karlheinz Meier卡尔海因茨·迈尔的海德堡小组设计的一种神经形态芯片。该芯片有384个人工神经元,通过100000个突触相连,运行速度大约是大脑计算速度的100000倍(单纯的以计算速度来比较)。

基于生物神经元的计算机芯片可能有助于模拟更大更复杂的大脑模型。

2012年,计算机科学家Dharmendra Modha达蒙达•莫哈用一台强大的超级计算机模拟了超过5000亿个神经元的活动,甚至超过了人类大脑中850亿个左右的神经元。这是近十年来的研究成果的顶峰,从模拟啮齿动物和猫的大脑发展到模拟人类的大脑。

这个模拟消耗了巨大的计算资源——150万个处理器和150万兆字节(150万千兆字节)的内存,而且速度仍然非常慢,比大脑的计算速度慢了1500倍。Modha估计,要在生物实时中运行它需要12千兆瓦的能量,大约是胡佛大坝最大输出能力的6倍。

“然而,这只是一幅大脑功能的概念”位于北加利福尼亚州IBM阿尔马登研究中心负责大脑启发计算的首席科学家Modha说。这个模拟实验几乎无法复制人脑的功能,人脑使用的电量与一个20瓦的灯泡差不多。

自21世纪初以来,改进的硬件和实验和理论神经科学的进步使研究人员能够创造出更大更详细的大脑模型。但是这些模拟越复杂,就越容易受到传统计算机硬件的限制,如Modha的耗电模型所示。

这是我们可以对大脑进行逆向工程的最雄心勃勃的技术难题之一。-迈克·戴维斯,英特尔

莫达的人脑模拟是在劳伦斯利弗莫尔国家实验室的Blue Gene/Q红杉超级计算机上进行的,这是一个非常强大的传统计算机硬件的集合体:它由大量的传统计算机芯片、指甲大小的硅晶片(包含数百万个晶体管)驱动。控制传统计算机芯片结构和功能的规则与我们大脑的规则大不相同。

但事实上,计算机与我们的大脑“思考”非常不同,当涉及到像数字计算这样的任务时计算机具有很高优势,同时使他们在其他领域,如理解人类语言或从经验中学习,明显地功能原始。如果科学家想模拟一个能与人类智力相匹配的大脑,更不用说让它黯然失色了,他们可能必须从更好的构建模块开始设计,并受我们大脑启发的计算机芯片。

所谓的神经形态芯片复制了大脑的结构

,也就是说,它们通过类似于神经元动作电位的“神经元尖峰”相互交流。这种尖峰行为允许芯片消耗很少的电能,即使将其拼接到非常大的系统中,也能保持高效的电能。

安大略省滑铁卢大学的理论神经科学家Chris Eliasmith克里斯·埃利亚斯米特说:“在我看来,最大的优势是人工大脑可扩展性。”在《如何建立大脑》一书中,Eliasmith描述了他创建并命名为Spaun的人工大脑的大规模模型。当Eliasmith运行Spaun的初始版本时,有250万个“神经元”,它的运行速度比生物神经元慢20倍,即使模型运行在最好的传统芯片上。“每次我们加上几百万个神经元,它就会慢得多,”他说。当Eliasmith在数字神经形态硬件上进行一些模拟时,他发现它们不仅速度快得多,而且效率高出50倍。更好的是,随着Eliasmith模拟更多的神经元,神经形态平台变得更有效。这是神经形态芯片旨在复制自然的方法之一,当它们从蠕虫大脑中的300个神经元扩展到人类大脑中的850亿个左右时,大脑似乎增强了能量和效率。

Neuromorphic chips神经形态芯片在耗电很少的情况下完成复杂计算任务的能力已经引起了科技界的关注。神经形态芯片的潜在商业应用包括节能超级计算机、低功耗传感器和自学习机器人。但是生物学家有一个不同的想法:建立一个完全功能的人脑复制品。

今天的许多神经形态系统,从IBM和Intel开发的芯片到作为欧盟人脑项目一部分创建的两款芯片,也可供研究人员使用,研究人员可以远程访问它们来运行模拟。研究人员正利用这些芯片来建立单个神经元和突触的详细模型,并破译这些单元是如何结合在一起形成更大的大脑子系统的。这种芯片可以让神经科学家测试视觉、听觉和嗅觉如何在实际硬件上工作的理论,而不仅仅是软件。最新的神经形态系统也使研究人员开始了一项更具挑战性的任务,即复制人类的思维和学习方式。

现在还很早,真正释放神经芯片的潜力需要理论、实验和计算神经科学家以及计算机科学家和工程师的共同努力。但最终的目标是一个宏伟的目标,不亚于弄清楚大脑的各个组成部分是如何共同工作来创造思想、感觉甚至意识的。

英特尔神经形态计算实验室主任,计算机工程师迈克·戴维斯说:“这是我们能对大脑进行逆向工程的最雄心勃勃的技术难题之一。”

一切都是关于建造结构

加州理工学院的科学家卡弗·米德(Carver Mead)在20世纪80年代发明了“neuromorphic神经形态”一词,他注意到,与现代计算机芯片的积木式数字晶体管不同,模拟晶体管更接近于神经元的生物物理学。

具体地说,在一个如此微小的模拟电路中,非常微小的电流使电路有效地“断开”,当这种流动不产生动作电位时。 这种功能类似于离子在生物神经元的通道中流动的动力学。

由于受到米德和他的同事们的兴趣,Giacomo Indiveri决定在20世纪90年代中期在加州理工大学做博士后研究。现在,他是瑞士苏黎世大学的神经形态工程师,Indiveri管理着少数几个继续米德使用低电流模拟电路方法的研究小组之一。Indiveri和他的团队手工设计芯片的布局,这一过程可能需要几个月的时间。“这是笔和纸的工作,因为我们试图想出最优的解决方案来实现神经动力学,”他说。“如果你在做神经模拟,它是一门艺术。”

如果你在做神经模拟,它是一门艺术。-苏黎世大学Giacomo Indiveri

一旦他们最终确定了布局,他们就会把设计电路给制造厂,这是制造智能手机和电脑芯片的同一家精密金属制造厂。最终的结果看起来像一个智能手机芯片,但它的功能就像一个由“神经元”组成的网络,通过几个节点传播峰值电流。在这些模拟神经形态芯片中,信号通过实际的电压尖峰进行中继,电压尖峰的强度会有所不同。就像在大脑中一样,信息是通过不同神经元的放电尖峰时间来传递的。

Indiveri说:“如果你向神经生理学家展示其中一个神经元的输出,他将无法告诉你它是来自硅基神经元还是来自生物神经元。”

这些硅基神经元代表着用硅基芯片复制神经系统的不完美尝试。生物神经元是混合模拟数字系统;它们的动作电位模拟数字硬件的离散脉冲,但它们也是模拟的,因为神经元中的电压水平会影响正在传输的信息。

模拟神经形态芯片的特点使硅基芯片神经元与生物神经元的物理行为非常相似,但它们的模拟性质也使得它们传输的信号不那么精确。虽然我们的大脑已经进化到可以补偿其不精确的组成部分,但研究人员却将基本概念带入了数字领域。像IBM和Intel这样的公司专注于数字神经芯片,其硅基神经元复制了生物神经元中信息流动的方式,但具有不同的物理特性,同样的原因是,传统的数字芯片已经取代了我们绝大多数的计算机和电子产品,它们具有更高的可靠性和易制造性。

如何用现代技术建立一个完全功能的人工大脑

上图:神经构建块:每个spinnaker芯片都与内存(左上角)打包在一起,然后平铺到较大的设备中,例如右上角的48节点板。

如何用现代技术建立一个完全功能的人工大脑

最后,多个电路板可以连接在一起形成更大的Spinnaker系统(上图)。

但是这些数字芯片在捕捉大脑结构的过程中保持了它们的神经形态。在这些数字神经芯片中,尖峰以信息包的形式出现,而不是电压变化的实际脉冲。英特尔的戴维斯说:“这与我们通常在电脑上设计的任何东西都大不相同。”

无论尖峰采取什么形式,系统只在输入达到某个阈值时传递信息,允许神经形态芯片停顿而不是消耗能量。这类似于大脑的神经元在准备好的时候的通讯方式,而不是在计时员的要求下。另一方面,传统的芯片大多是线性的,在存储数据的存储器硬件和在严格的内部时钟控制下计算数据的处理器之间来回传输数据。

当Modha设计IBM的神经形态芯片Truenorth时,他首先分析了大脑的远程接线图,该图描绘了不同大脑区域在猕猴和人类中是如何相互连接的。“它真的开始告诉我们关于远程连接、短距离连接以及神经元和突触的信息。他说。到2011年,modha制造了一种包含256个硅神经元的芯片,与蠕虫线虫之类的大脑规模相同。使用最新的芯片制造技术,modha将神经元更紧密地封装在一起以缩小芯片,将4096个芯片放在一起导致了2014年发布的Truenoth,它包含100万个类似于蜜蜂大脑规模的合成神经元,比传统芯片消耗的能量少几百倍。

像Trunorth这样的神经形态芯片在人工神经元之间有很高的连通性,类似于在哺乳动物大脑中看到的。人类大脑中850亿个神经元通过大约1万亿个突触高度相连。

Truenoth相当简单,包含2.56亿个连接100万神经元的“突触”,但通过将多个Truenoth芯片组合在一起,Modha创建了两个更大的系统:一个模拟1600万个神经元和40亿个突触,另一个模拟6400万个神经元和160亿个突触。目前,各机构的200多名研究人员都可以免费获得Trunorth。

除了神经形态芯片的高度互联和突出的特性外,它们还复制了生物神经系统的另一个特性:与传统的计算机芯片不同,传统的计算机芯片把处理器和存储器放在不同的位置,神经形态芯片往往有许多小的处理器,每个处理器都有少量的局部存储器。这种结构类似于人脑的组织结构,神经元同时处理数据存储和处理。研究人员认为,这种神经形态结构的元素可以使用这些芯片构建的模型更好地复制人类的学习和记忆。

学习能力是英特尔Loihi芯片的一个焦点,该芯片于2017年9月首次宣布,并于去年1月与研究人员分享。4为模拟约13万个神经元和1.3亿个突触而设计的,Loihi整合了峰值时间依赖性可塑性(stdp)模型,这是一种在大脑中调节突触强度的机制。突触前和突触后峰值的相对时间。如果一个神经元在第二个神经元之前发射,则它会加强与第二个神经元的连接,而如果发射顺序相反,则连接强度会减弱。这些突触强度的变化被认为在人类大脑的学习和记忆中起着重要作用。

领导Loihi开发的Davies说,其目的是捕捉我们大脑非常擅长而目前的人工智能模型却不擅长的快速、终身学习。和Truenorth一样,Loihi也被分配给了不同的研究人员。随着越来越多的研究小组使用这些芯片来模拟大脑,戴维斯说,“希望我们在大脑中看到的一些令人惊奇的能力的解释能够变得清晰。”

神经科学的神经形态

对于所有潜在的科学应用,Truenorth和Loihi并不是专门为神经科学家建造的。它们主要是研究芯片,旨在测试和优化神经形态结构,以提高其功能和易用性,以及探索各种潜在的商业应用。从语音和手势识别到高效能的机器人和设备上的机器学习模型,这些模型可以为智能手机和自动驾驶汽车提供动力。另一方面,欧盟的人脑项目开发了两个神经形态的硬件系统,明确了理解大脑的目标。

Brainscales于2016年推出,5在硅晶片上结合了许多芯片,更像是超薄飞盘,而不是指甲。每一块晶圆都包含384个模拟芯片,其运行方式与Indiveri模拟芯片的强化版本相当,优化的是速度而不是低功耗。他们共同模拟了每片晶片上大约20万个神经元和4900万个突触。

建立大脑的功能模型

神经形态技术正在推动越来越大、越来越复杂的大脑模型,这些模型已经开始在现代超级计算中达到极限。Spaun就是一个例子。250万神经元模型概括了人类大脑的几个特征的结构和功能,以执行各种认知任务。就像人类一样,它能比长序列更容易记住一个短序列的数字,并且比中间的数字更容易记住前几个和后几个数字。虽然研究人员已经在传统的硬件上运行了部分当前的Spaun模型,但神经形态芯片对于有效地执行目前正在开发的更大、更复杂的版本至关重要。

BrainScaleS以及欧盟的其他神经形态系统,称为spinnaker,受益于成为人脑项目的一部分,该项目由理论、实验和计算神经科学家组成。与这个社区的互动指导了新功能的添加,这些新功能可能会帮助科学家,并允许来自两个系统的新发现快速地回到这个领域。

英国曼彻斯特大学(UniversityofManchester)的计算机工程师史蒂夫弗伯(SteveFurber)20年前就构思了Spinnaker,他已经设计了十多年。Furber说,他和他的同事们花了大约六年时间在Spinnaker底层的小型数字芯片上,并在2011年实现了全部功能。从那时起,研究团队一直在将芯片组装成不断增长的机器,最终在2018年底启动的百万台处理器机器中达到顶峰。6 Furber预计Spinnaker应该能够实时模拟小鼠大脑中的1亿个神经元,这是传统的超级计算机将对一台小型计算机所做的事情。沙的时间变慢了。

欧盟人脑项目系统目前免费进入学术实验室。神经科学家开始在Spinnaker硬件上运行他们自己的程序,以模拟大脑特定子系统(如小脑、皮层或基底节)的高级处理。例如,研究人员正试图模拟一个小的重复结构单元——大脑外层的皮质微柱,负责最高级的功能。“微柱很小,但是它仍然有80000个神经元和25亿个突触,所以建模不是一件小事,”Furber说。

下一步,他补充道,“我们正在开始某种程度上的接近大脑系统思考水平,而不仅仅是单个大脑功能区域,”逐渐接近一个850亿神经元器官的全尺寸模型,它将为人类智能提供动力。


分享到:


相關文章: