首页 生活杂谈 新型脑启发式人工树突神经网络

新型脑启发式人工树突神经网络

随着人工智能(AI)工具的快速发展,全球工程师们一直在致力于开发能够复制人类大脑组织和功能的新型架构和硬件组件。

迄今为止,大多数受大脑启发的技术都是从大脑细胞(即神经元)的放电现象中获得灵感,而不是模仿神经元的整体结构以及它们如何参与信息处理。

清华大学的研究人员最近介绍了一种新型神经形态计算架构,该架构旨在复制突触(即神经元之间的连接)的组织结构和树突(即从神经元主体延伸出的突起)的树状结构。

这一新型类似大脑的人工系统是在《自然·电子学》期刊上发表的一篇论文中介绍的,该系统是通过使用具有离子掺杂溶胶-凝胶薄膜的多栅极硅纳米线晶体管的计算模型实现的。

该论文的共同作者之一Carlo Vittorio Cannistraci告诉Tech Xplore:“当我在意大利米兰理工大学攻读AI和脑生物工程硕士学位时,我萌生了模仿大脑连接稀疏性和形态学(如神经元的树突)来设计高效AI的想法。”

“同时,我也被大脑机制如‘沉默突触’的优雅所吸引,这些突触在周围电激活增加时会开始工作。”

Cannistraci从他的先前研究和研究兴趣中汲取灵感,最近开始致力于通过计算方式实现复杂的脑机制。作为这项最新研究的一部分,他与清华大学的其他研究人员合作,使用神经形态计算模型复制了树突的形态和突触的基础结构。

“一天,Carlo 请我研究‘树突计算’,因为我们之前关于‘神经晶体管’的合作研究有可能模仿树突的特性,”共同作者之一 Eunhye Baek 告诉 Tech Xplore。

“我和陆平石教授一直在寻找开发神经形态视觉传感器系统的方法,并且我们认识到这种方法具有巨大潜力。

“我一直以来的兴趣是构建更像大脑/神经元的动态信息处理系统。树突计算让我非常兴奋,因为它包含了一系列尚未在神经形态工程中广泛研究的动态和复杂特性。”

到目前为止,大多数神经形态计算研究都集中在重现与学习相关的突触过程以及人工复制神经元尖峰的产生上。这些研究往往将树突简单地建模为传输线,从而忽略了与它们独特形态相关的功能。

“树突利用其树状形态来映射空间分布的信号,表现出分支特异性的可塑性,并整合各种突触,”Baek 解释道。

“每个树突分支对具有特定方向性的信号特别敏感,使它们专门用于处理时空信号。我们的研究侧重于这些复杂的树突功能。”

Cannistraci、Shi、Baek 及其合作者设计并开发了一种新设备,该设备模仿了生物树突的形态和功能。这个被称为“树突晶体管”的设备,通过利用涂有离子掺杂溶胶-凝胶膜的多栅极晶体管的物理特性,来模拟树突所进行的计算。

“这层膜通过允许掺杂离子以类似于神经元树突中离子的方式移动,从而模仿树突分支,调节晶体管的电流以反映树突膜电位的变化,”Baek 说道。“我们的研究表明,树突晶体管展示了非线性树突整合和方向选择性。”

除了树突晶体管设备外,该研究小组最近的论文还介绍了一种人工静默突触。在这个系统中,溶胶-凝胶膜中树突晶体管的分支电压确保只有当膜达到特定阈值时,突触输入才会被激活,从而提高了系统辨别移动视觉刺激方向的能力。

“我们还受视网膜和视觉皮层神经回路的启发,创建了一个计算移动信号方向的神经形态树突神经网络,”Baek 说道。“该电路展示了检测二维和深度中移动信号的能力,并将它们整合以重建三维空间中物体的运动方向。”

通过紧密模拟树突神经元的稀疏连接性,Cannistraci、Baek 及其同事引入的这种新型神经形态计算方法被发现具有显著的能效。实际上,该系统展示了利用比现有人工神经网络(ANNs)更少的神经元来检测运动的潜力。

这种新架构的关键优势在于,它超越了仅复制生物神经元功能方面的限制。与其他现有的神经形态计算平台相比,它还再现了神经元的结构和稀疏连接性,包括树突的形态和静默突触的基础。

“尽管神经形态研究中有各种实现智能的方法,但我们的研究独特地展示了神经元及其突触连接形态在动态信号处理中的重要性,”Baek 说道。

我们通过模拟生物神经元如何通过突触输入的空间稀疏映射形成功能性神经网络的方式来实现这一点,这凸显了这种形态对于高效神经形态信息处理的重要性。”

值得注意的是,该研究团队是首个证明抑制性和沉默性突触的空间位置也能控制神经形态系统中神经元处理信号方式的团队。这一见解可能为其他再现沉默性突触的计算模型和架构的设计提供指导。

坎尼斯特拉奇说:“稀疏性和形态学在构建下一代人工智能方面一直未被充分理解和应用。我们的研究是首个展示如何利用真实大脑网络的这两个特征来设计用于高效人工智能的下一代神经形态神经网络的。”

坎尼斯特拉奇、白克及其同事的近期努力可能很快就会为基于半导体器件的神经形态系统的工程打开新的令人兴奋的途径。具体而言,他们提出的受大脑启发的设计可能有助于开发能耗更低的新型设备和人工智能工具,从而为更可持续的计算铺平道路。

在接下来的研究中,研究人员计划进一步扩展他们的人工神经网络,使用先进的抑制性连接,以进一步提高动态视觉信号的分类能力。为此,他们将尝试紧密模拟大脑发育早期阶段观察到的神经连接。

坎尼斯特拉奇补充说:“我们计划开发新的神经形态树突网络架构,以执行深度学习,并解决视觉感知以外的其他人工智能任务,如时间序列分析和听觉任务。”

“此外,我们希望开发能够处理和关联不同类型感官输入(如视觉和听觉)的多模态电路。最后,我们希望将这种稀疏和形态学计算范式扩展到在数字硬件上实现的经典类型人工神经网络。”

热门文章