在阅读文章之前，请您点击一下“关注”，既方便您讨论与分享，又能给您带来不一样的参与感，感谢您的支持。
文丨小蔡菜籽油
编辑丨小蔡菜籽油
前言
重新配置的设备提供了按需对电子电路进行编程的能力。在这项工作中，展示了在后制造的钙钛矿NdNiO中按需创建人工神经元，突触和存储电容器可以通过单次电脉冲简单地为特定目的重新配置的设备。
钙钛矿镍酸盐的电子特性对氢离子局部分布的敏感性使这些结果成为可能。利用存储电容器的实验数据，储层计算框架的仿真结果在数字识别和心电图心跳活动分类等任务中表现出优异的性能。使用可重构的人工神经元和突触，模拟动态网络在增量学习场景中优于静态网络。按需设计受脑启发的计算机构建块的能力为自适应网络开辟了新的方向。
人工智能的持续学习是一项艰巨的挑战。模型通常在平稳数据分布上进行训练，因此当新数据增量呈现给神经网络时，这会干扰先前学习的知识，导致性能不佳，这被称为灾难性遗忘，并且仍然是一个活跃的研究领域。
解决这个问题的主要方法之一是在新数据可用时积极调整网络本身的结构。不仅根据输入分布调整网络的架构允许网络有效地管理其资源，最近的发现还表明，当提供相同的资源时，动态网络可以显示出比静态网络更好的性能。
智能技术
随着智能边缘设备越来越融入社会，它们将需要在受芯片面积和功耗限制的硬件中实施复杂的网络。能够在不断变化的环境中动态重新分配网络资源以执行各种任务至关重要。在硬件中拥有可编程功能可以改变未来计算机的游戏规则，这些计算机的设计灵感来自动物大脑的智能。
在这项工作中，展示了钙钛矿镍酸盐，一类在氢掺杂后经历室温电子相变的量子材料，为自适应计算提供了一个多功能的、可重构的硬件平台。由H掺杂钕NiO制成的单个器件，可以根据需要进行电气重新配置，以承担神经元，突触或存储电容器的功能。
这种多功能可调性是通过钙钛矿晶格中质子的大量亚稳构型的协同组合而实现的，这些构型也可以进行电压控制。尽管正在探索用于神经形态计算的各种离子电子开关，但神经形态功能的完全重新配置仍然难以捉摸。
为了演示AI中的示例应用，在储层计算框架中使用了来自存储电容器的实验数据，这是一种受大脑启发的机器学习架构，仿真结果显示出与理论和实验储层相当的优异性能。利用钙钛矿镍酸盐器件获得的神经元和突触的实验特性及其运行时可重构性来设计自适应动态按需生长网络。
在大脑皮层数据处理的推动下，GWR网络在现实世界场景中提供了一种无监督的终身学习方法，训练样本的可用性有限，而这些样本又可能缺少或嘈杂的标签。证明了这样的网络可以利用网络节点的创建和删除，与静态网络相比，提供更大的表示能力和效率
钙钛矿镍酸盐是一类量子材料，其电子性质由强电子相互作用介导。原始NNO在室温下是一种相关的金属。氢掺杂剂作为电子供体可以通过修改Ni轨道配置导致电导率降低几个数量级。轻轻地重新分配已经被电场掺杂在晶格中的氢离子可以系统地改变电导率以产生多种电子状态。
通过在氢气中退火NNO器件，可以将氢气间歇性地掺杂到靠近电极的NNO晶格中。然后氢原子将电子捐赠到Nid轨道，这改变了NNOd带的填充状态，并导致相变，电阻率变化了几个数量级。晶格中的质子可以使用大量的亚稳能态，它们的分布和局部浓度随后可以通过施加到电极上的电场进行调制。H-NNO器件的开关机制与表S1中的传统非丝状电阻式存储器器件进行了比较。
从同一设备创建人工神经元和突触，在电子状态下研究了H-NNO装置中的尖峰神经元行为。对设备施加连续的电刺激，一旦达到临界水平，就会观察到设备电阻的突然变化。镍酸盐装置对电刺激的非易失性神经元反应取决于脉冲电压和脉冲宽度。
钙钛矿镍酸盐
通过连续电压扫描证明了镍酸盐装置中电子状态iv下的突触行为。在LRS下，较小的阈值脉冲场足以调制器件电阻，适用于电阻逐渐变化的模拟行为。这种器件电阻的模拟更新禁止了尖峰所需的电阻突然跳跃。在HRS时，V要高得多千需要改变阻力，有利于刺激神经元行为。
为了了解实现电重构的纳米级机制，在LRS和HRS对分别对应于突触和神经元状态的代表性H-NMO器件进行了深入表征。共聚焦拉曼光谱范围为300至550cm−1首先从两个对照样品中收集：Pd电极附近的原始NNO薄膜和Pd电极附近的大量掺杂NNO薄膜。TheT2克NNO的模式存在于约为439cm−1对于原始NNO，而对于重掺杂的NNO，它消失了，表明在Pd电极附近有致密的质子浓度。
进行了二维拉曼成像在矩形区域在LRS和图2I中的HRS处的H-NNO设备的此边界。T的相对峰强度2克在LRS处H-NNO器件的模式为0.77，而对于HRS，这一模式降至0.68，表明H-NNO在Pd电极附近的HRS处的局部质子分布更高。近场尖端增强拉曼散射在H-NNO器件的LRS和Pd电极附近的HRS上进行。
具有100nm间隙尺寸的镍酸盐器件，可以展示可扩展性，耐用性，可重复性和超低能耗。。在缩放设备中，可以通过<10ns的电脉冲实现电气重新配置。单次突触更新的能量成本约为2fJ，与大脑中的能量成本相当。为了证明与CMOS技术的兼容性，在SiO上制造了镍酸盐器件2通过溅射和ALD在硅衬底上。
自适应镍酸盐硬件的应用，在RC中应用了实验忆阻和忆电容行为，RC是一种受大脑启发的机器学习架构，通过仅适应简单的输出层来解决传统递归神经网络中常见的训练复杂性和参数爆炸问题。RC解释了高阶认知功能以及短期记忆与其他认知过程的相互作用。
为了进行基线比较，评估了的H-NNO设备的性能与理论模型和实验报告相比，用于三个不同的任务：MNIST数字识别，孤立的语音数字识别和心电图数据集上的心室心跳分类。
A至C的模拟结果表明，与理论和实验油藏相比，的H-NNO油藏在3个任务上具有相当的性能。性能-设备的比结果表明，H-NNO储层在MNIST、孤立语音数字和ECG心跳方面平均分别优于理论和实验储层。
在单一类型的设备中具有神经元和突触功能可以实现紧凑和节能的神经形态系统设计。此外，为多种神经形态功能重新配置设备的能力开辟了它们在下一代人工智能中的创新用途，即在动态神经网络的新兴领域。GWR网络就是这样一个例子，它根据竞争性Hebbian学习创建新节点及其互连。
GWR网络扩展了自组织神经网络的概念，以无监督的方式添加或删除网络节点，以准确近似输入空间，与静态自组织映射相比，有时甚至更简洁。可以将动态GWR与静态自组织网络进行比较，该网络使用相同的Hebbian学习方案，但具有固定数量的节点，在开始时随机初始化。
在用于评估文献性能的两个原型数据集MNIST和CUB-200的子集上训练了的网络，以模拟这样的网络在飞行中的表现。
对于数据集和网络，使用来自H-NNO设备的实验数据进行了两组模拟：增量学习，其中网络随着时间的推移显示更新的数据类别，以及评估与静态网络相比增长或缩小的影响-GWR表示输入空间的效率。
在增量学习场景中，为每个新类训练两个数据集时。观察到动态网络能够比静态网络更好地保留其学习的表示，最终的准确性测试导致MNIST准确率高212%，CUB-200准确率高250%。通过扩大其规模，网络避免了灾难性遗忘的痛苦，并且随着类数量的增加，性能仅显示出平滑的下降。
选择静态网络的大小等于GWR网络所需的最大节点数。这种安排确保了观察到的差异不是由于两个网络的大小差异，而是因为动态网络的成长和学习能力。GWR网络动态改变其大小以适应输入空间的能力。
最初向网络展示了数据集中类总数的前半部分，GWR的大小增长和饱和。之后，当网络呈现整个数据集时，GWR迅速扩大其规模以适应变化。静态网络无法做到这一点，因此无法学习新数据，在初始类中也遭受了性能下降。
与静态网络相比，动态网络在测试集上获得了更好的准确性：MNIST为170%，CUB-200为4%。接下来，证明了与大型静态网络相比，GWR能够有效地分配其资源。在开始时向网络展示了数据集的所有类。学习发生后，删除了一半的类别，让GWR网络减小其大小并达到节点的平衡数量。
发现GWR能够在感兴趣的子集上保持与大型静态网络相似的性能水平，并通过将其MNIST的大小缩小27%和CUB-200的4%来展示更高的效率除了仿真研究外，还进行了概念验证实验，以证明与静态网络相比，H-NNO器件在增量学习场景中的硬件重新配置能力。
结论
已经在钙钛矿电子设备中展示了人工神经发生：在单个设备平台内按需为受脑启发的计算机重新配置硬件构建块的能力。使用镍酸盐器件的实验测量特性模拟的动态深度学习网络始终优于静态对应物。
结果展示了可重构钙钛矿量子电子设备在新兴计算范式和人工智能机器中的潜力。此外硅平台上半导体技术兼容的ALD和测试芯片的室温操作可以进一步使钙钛矿量子材料在主流集成电路制造中的广泛采用。
参考文献
- J.Kirkpatrick， R. Pascanu， N. Rabinowitz， J. Veness， G. Desjardins， A. A. Rusu， K. Milan， J. Quan， T. Ramalho， A. Grabska-Barwinska， D. Hassabis， C. Clopath， D. Kumaran， R. Hadsell， 克服神经网络中的灾难性遗忘。美国科学院院刊 114， 3521–3526 （2017）.
- G. I. Parisi， R. Kemker， J. L. Part， C. Kanan， S. Wermter， Continual Lifelong Learning with neural Networks： A review.神经网络。 113， 54–71 （2019）.
- K.O. Stanley，J. Clune，J. Lehman，R. Miikkulainen，通过神经进化设计神经网络。纳特马赫。 1， 24–35 （2019）.
- N. K. Upadhyay， H. Jiang， Z. Wang， S. Asapu， Q. Xia， J. J. Yang， 用于神经形态计算的新兴存储设备。高级母校技术。 4， 1800589 （2019）.
- W. Yi， K. K. Tsang， S. K. Lam， X. Bai， J. A. Crowell， E. A. Flores， 可扩展VO中的生物学合理性和随机性2有源忆阻神经元。国家公社。 9， 4661（2018）.