面向世界科技前沿,面向国家重大需求,面向国民经济主战场,率先实现科学技术跨越发展,率先建成国家创新人才高地,率先建成国家高水平科技智库,率先建设国际一流科研机构。

——中国科学院办院方针

首页 > 科研进展

研究揭示介观自组织反向传播机制助力AI学习

2021-10-25 自动化研究所
【字体:

语音播报

  在人工智能领域,人工神经网络中被广泛使用的反向传播算法(BackpropagationBP)采用全局优化策略,其性能卓越,但学习过程能量消耗大,缺乏灵活性。中国科学院自动化研究所、脑科学与智能技术卓越创新中心联合研究团队近期借助生物网络中发现的介观尺度自组织反向传播机制(Self-backpropagationSBP),在更具效率和灵活性的类脑局部学习方法方面取得了重要进展。

  SBP的发现最早可以追溯到1997年。中科院院士、中科院脑智卓越中心研究员蒲慕明团队发现海马体内的神经元可以将长时程抑制(Long-term depressionLTD)可塑性自组织地传播到三个方向,分别是突触前侧向传播(Presynaptic lateral spread)、突触后侧向传播(Postsynaptic lateral spread)、反向传播(Backpropagation),该发现即自组织反向传播神经可塑性机制(SBP)。后续研究证实,SBP现象具有普遍性,不仅覆盖更多的神经区域如视网膜-顶盖系统,还覆盖更多的可塑性类型,如长时程增强(Long-term potentiationLTP)。该机制的发生归结于生物神经元内分子调制信号的天然逆向传递,被认为是可能导致生物神经网络高效反馈学习的关键。

  研究团队受到该机制的启发,对SBP的反向传播方向(第三个方向)单独构建数学模型(图1A),重点描述了神经元输出突触的可塑性可以反向传播到输入突触中(图1B),可塑性的发生可以通过时序依赖突触可塑性(Spike timing-dependent plasticitySTDP),也可以通过人工局部梯度调节。在标准三层脉冲神经网络(Spiking neural networkSNN)的学习过程中,SBP机制可以自组织地完成前一层网络权重的学习,并且可以结合短时突触可塑性(Short-term plasticitySTP)、膜电位平衡(Homeo-static membrane potential)等,形成更强大的SNN组合学习方法(图1C)。在一类人工神经网络(Artificial neural networkANN)如受限玻尔兹曼机网络(Restricted Boltzmann machineRBM)的学习中(图2A),SBP机制可以替换迭代过程中部分BP机制,实现交替的协作优化(图2B-E)。针对SNNRBM的不同,科研人员分别设置了两种不同的能量函数约束,来保证训练过程中网络参数学习的平稳性。此外,科研人员提出了统计训练过程中能量消耗的新方法(图3)。在图片分类(MNIST)、语音识别(NETtalk)、动态手势识别(DvsGesture)等多类标准数据集上,SBP机制通过组合其它可塑性机制,实现了更低能耗和更高精度的SNN局部学习(图4)。在ANN-RBM的学习中,SBP机制也可以大量替换BP机制实现全局和局部交叉学习,在降低计算能耗同时却不损失精度(图5)。

  科研人员认为,SBP是一类介观尺度的特殊生物可塑性机制,该机制同时在SNNANN中获得了广泛的组合优化优势,对进一步深入探索类脑局部计算具有启示性。生物智能计算的本质可能是灵活融合多类微观、介观等可塑性机制的自组织局部学习,结合遗传演化赋予的远程投射网络结构,实现高效的全局优化学习效果。该工作可以进一步引导生物和人工网络的深度融合,最终实现能效比高、可解释性强、灵活度高的新一代人工智能模型。

  相关研究成果以Self-backpropagation of synaptic modifications elevates the efficiency of spiking and artificial neural networks为题1020日在线发表在Science Advances上。研究工作得到国家自然科学基金委员会、中科院战略性先导科技专项(B类)等的资助。

  论文链接 

图1.SBP在SNN中的应用。(A)SBP可塑性机制(B)SBP在SNN中的局部反向传播(C)SBP和其它可塑性机制在SNN中的组合优化

  图2.SBP在RBM中的应用。(A)SBP和BP在RBM中的组合优化(B)SBP和BP的交替协作流程(C)RBM中的标准Sleep Phase(D)含有SBP的Wake Phase(E)含有BP的Wake Phase

图3.训练能量消耗的计算方法。(A)平均迭代次数 (B)每次迭代中的算法复杂度

  图4.在MNIST、NETtalk、DvsGesture三个数据集上的性能对比。(A,C,E)SBP分别取得了基于梯度和基于可塑性方法的SNN最优性能(B,D,F)SBP分别取得了基于梯度和基于可塑性方法的SNN最低能耗

  图5.SBP有助于RBM提升精度和降低能耗。(A-C)在MNIST数据集中,SBP可以少量降低RBM的训练误差。(A)可以同时平衡精度和能耗得到最优的Wake Phase次数(B)且可以显著降低训练能耗(C)。(D-I)在NETtalk和DvsGesture数据集中,SBP得到了和在MNIST中类似的结论。

打印 责任编辑:阎芳

扫一扫在手机打开当前页

© 1996 - 中国科学院 版权所有 京ICP备05002857号-1 京公网安备110402500047号 网站标识码bm48000002

地址:北京市西城区三里河路52号 邮编:100864

电话: 86 10 68597114(总机) 86 10 68597289(总值班室)

编辑部邮箱:casweb@cashq.ac.cn

  • © 1996 - 中国科学院 版权所有 京ICP备05002857号-1 京公网安备110402500047号 网站标识码bm48000002

    地址:北京市西城区三里河路52号 邮编:100864

    电话: 86 10 68597114(总机) 86 10 68597289(总值班室)

    编辑部邮箱:casweb@cashq.ac.cn

  • © 1996 - 中国科学院 版权所有
    京ICP备05002857号-1
    京公网安备110402500047号
    网站标识码bm48000002

    地址:北京市西城区三里河路52号 邮编:100864
    电话:86 10 68597114(总机)
       86 10 68597289(总值班室)
    编辑部邮箱:casweb@cashq.ac.cn