可编程神经形态计算芯片的光学显微镜图像

神经形态芯片,是预测计算性能“范式转变”的关键。来源:Seung Hwan Lee

自20世纪50年代晶体管开始取代真空管成为电子电路的关键部件以来,固态计算已经发展了很长时间。随着硅晶体管取代锗晶体管,集成电路取代锗晶体管,集成电路取代越来越复杂的芯片,芯片中充满了越来越多的小晶体管,一代又一代的新型固态器件以更快的速度以电子方式处理和存储信息。

自1965年以来,该行业一直遵循摩尔定律——微处理器巨头英特尔(Intel)联合创始人戈登•摩尔(Gordon Moore)的预测——不断缩小的设备将提高计算性能和能源效率。纳米技术的进步使当今最先进的集成电路的最小功能缩小到原子尺度,但这与当前的设备不兼容。计算的下一个重要步骤不仅需要新的纳米材料,还需要一个新的架构。

CMOS(互补金属氧化物半导体)晶体管自20世纪80年代以来一直是集成电路的标准构件。CMOS电路,就像之前的几代数字计算机一样,依赖于约翰·冯·诺伊曼在20世纪中期选择的基本架构。他设计的架构是为了将计算机中存储数据的电子设备与处理数字信息的电子设备分开。计算机将信息存储在一个地方,然后将其发送到其他电路进行处理。将存储的内存与处理器分离,可以防止信号相互干扰,并保持数字计算所需的准确性。然而,将数据从内存转移到处理器所花费的时间已经成为一个瓶颈。开发人员现在正在寻找替代的非冯·诺依曼架构来“在内存中”执行计算,以避免浪费时间移动数据。

另一个目标是转向神经形态系统他们使用算法和网络设计来模拟人脑的高连通性和并行处理。化学和材料科学研究员Mark Hersam说,这意味着开发新的人工神经元和突触,与电子处理兼容,但超过CMOS电路的性能。他补充说,这是一项不小的壮举,但其成本是非常值得的。“我对神经形态计算比对内存处理更感兴趣,因为我相信模拟大脑是一个更大的范式转变,有更多潜在的好处。”

在这两种情况下,面临的挑战是为这项任务确定最好的技术,赫萨姆正在伊利诺伊州埃文斯顿的西北大学进行这项工作。在自然指数中追踪82种选定自然科学期刊的文章在美国,西北大学在纳米相关产出方面排名第二,仅次于位于剑桥的麻省理工学院。

计算领域发生重大变化的第一个迹象出现在2012年左右,当时摩尔定律开始停滞不前,深度学习(系统根据过去的经验提高性能)的开发者意识到,传统计算机中使用的通用中央处理器(cpu)无法满足他们的需求。

朝向更快的处理

cpu的优势在于它们的多功能性,Wilfried Haensch说,他在纽约州约克敦高地的IBM沃森研究中心领导了一个开发计算机内存概念的小组,直到2020年退休。“不管你想出什么程序,CPU都能执行,”Haensch说。但能否有效执行则是另一回事。”

为了寻求更好的深度学习处理器,IBM开发人员转向图形处理单元(gpu),用于执行计算机游戏中用于高速三维成像的高级数学。IBM发现gpu可以比cpu更有效地运行深度学习算法,因此该团队将芯片用于运行特定进程。

“在其他机器中,你加载数据和指令,但在数据流机器中,某些指令在处理器中是硬连接的,所以你不必加载指令,”Haensch说。这标志着传统冯·诺依曼模型的突破,因为数据通过硬连接的处理器流动,就像在内存中执行操作一样。它也适用于深度学习算法,因为其大约80%的操作使用了与图像处理相同的高级数学。

进一步对现有材料进行微调只能提供短期的解决方案,Haensch说。他说,有许多新想法、新设备和新纳米结构,但没有一个可以取代CMOS。而且,谁也不能保证他们是否或何时准备好实现行业所需的转型。

图表显示了全球纳米科学的总体产出和主要国家

来源:自然指数

在开发中最受欢迎的一类设备是忆阻器,它同时具有存储器和电阻。忆阻器类似于标准电阻器,但对其施加电输入可以改变其电阻,改变存储在内存中的内容。它们有三层——两个终端连接到其他设备,由存储层隔开——它们的结构允许它们存储数据和处理信息。这一概念于1971年提出,但直到2007年,加州帕洛阿尔托惠普实验室的研究科学家r·斯坦利·威廉姆斯(R. Stanley Williams)才制造出第一个可用于电路的薄膜固态忆阻器。

忆阻器可以在纳米尺度上制造,并且可以在不到一纳秒的时间内切换。在2018年的忆阻器技术综述中,密歇根大学的陆伟(Wei Lu)和他的团队概述了它们“在冯·诺依曼和摩尔定律时代之后发展未来计算系统的巨大潜力”。m.a.齐丹et al。电子性质。122日;2018).构建一个包含所有所需属性的单一系统并不容易。

新一代材料

研究人员正在寻找新的材料来满足高级计算的需求。Hersam和他的同事Vinod K. Sangwan,西北大学的材料科学与工程研究员,已经对潜在的神经形态电子材料进行了广泛的分类,其中包括零维材料(量子点),一维和二维材料(石墨烯),以及范德华异质结构(多个二维材料层粘在一起)(V. K. Sangwan和M. C. HersamNanotechnol性质。15, 517 - 528;2020).

例如,一维碳纳米管在神经形态系统中的应用引起了人们的注意,因为它们类似于生物系统中神经细胞传递电信号的管状轴突。

对于这些材料将如何影响计算机的未来,人们意见不一。阿布·塞巴斯蒂安(Abu Sebastian)是位于纽约奥尔巴尼的IBM研究人工智能硬件中心(IBM Research AI Hardware Center)位于苏黎世的技术负责人,他专注于近期的收益,并看到了在数字和神经形态计算领域进一步推进的机会。

“像Mythic(一家总部位于德克萨斯州奥斯汀的人工智能公司)这样的公司非常接近商业化,”他说。在研究方面,卢说还有很多需要解决的问题。他说,为了使神经形态计算充分发挥其优势,从成像中适应的复杂计算需要变得“更紧密、更准确”。Haensch补充说,到目前为止,还没有材料可以实现可行的商业生产。

英特尔和IBM是自然指数中纳米科学和纳米技术相关产出的领先企业机构,有大型团队致力于非冯·诺依曼计算。惠普(Hewlett-Packard)和总部位于巴黎的人工智能公司Lights-On都是专注于短期应用的几家公司。