加快打造原始创新策源地,加快突破关键核心技术,努力抢占科技制高点,为把我国建设成为世界科技强国作出新的更大的贡献。

——习近平总书记在致中国科学院建院70周年贺信中作出的“两加快一努力”重要指示要求

面向世界科技前沿、面向经济主战场、面向国家重大需求、面向人民生命健康,率先实现科学技术跨越发展,率先建成国家创新人才高地,率先建成国家高水平科技智库,率先建设国际一流科研机构。

——中国科学院办院方针

首页 > 科研进展

自动化所开发出图主干网络模型

2023-12-08 自动化研究所
【字体:

语音播报

多年来,消息传递范式作为图神经网络(GNN)的基础,在广泛应用中取得了成功。尽管这种范式在多种任务中颇具潜力,但对图级任务(graph-level tasks)带来了一些挑战,如长程问题(long-range problem)、信息瓶颈(information bottleneck)、过度挤压现象(over-squashing phenomenon)、有限的表达能力(limited expressivity)。

中国科学院自动化研究所神经计算与脑机交互团队针对图级任务开发了图主干网络模型(Graph Trunk Network,GTR),旨在打破“以结点和边为中心”的传统思维方式,克服传统消息传递范式中的挑战。这一新框架的核心思想在于图级任务通常不需要像结点级任务一样为每个结点学习极其准确的表示。具体而言,新框架使用树分解(tree decomposition)算法在原始图中提取一棵骨架树,进而将骨架树分解为不同级别的主干(亦可称为“树干”),并运用长短期记忆(LSTM)网络沿着主干相应的路径学习各级主干的表示,最后结合各级主干的表示创建原始图的表示。深入的理论分析与全面的实验验证进一步证明了该模型在捕获长程信息和缓解过度挤压问题方面的优越性,为图级任务提供了新见解。

相关研究成果发表在IEEE Transactions on Pattern Analysis and Machine Intelligence上,相关代码已开源。研究工作得到国家自然科学基金委员会和中国科学院等的支持。美国康奈尔大学和微软亚洲研究院的科研人员参与研究。  

论文链接

GTR在分子图上的流程示意图

GTR在社交网络上的流程示意图

图主干网络模型在两类图上的流程示意图。首先(左列),从真实世界场景中提取图数据结构,以构建原始图;其次(中列),使用树分解算法从原始图中提取骨架树;最后(右列),将骨架树分解为不同级别的主干,并结合各级主干的表示创建原始图的表示。  

打印 责任编辑:侯茜

扫一扫在手机打开当前页

© 1996 - 中国科学院 版权所有 京ICP备05002857号-1 京公网安备110402500047号 网站标识码bm48000002

地址:北京市西城区三里河路52号 邮编:100864

电话: 86 10 68597114(总机) 86 10 68597289(总值班室)

编辑部邮箱:casweb@cashq.ac.cn

  • © 1996 - 中国科学院 版权所有 京ICP备05002857号-1 京公网安备110402500047号 网站标识码bm48000002

    地址:北京市西城区三里河路52号 邮编:100864

    电话: 86 10 68597114(总机) 86 10 68597289(总值班室)

    编辑部邮箱:casweb@cashq.ac.cn

  • © 1996 - 中国科学院 版权所有
    京ICP备05002857号-1
    京公网安备110402500047号
    网站标识码bm48000002

    地址:北京市西城区三里河路52号 邮编:100864
    电话:86 10 68597114(总机)
       86 10 68597289(总值班室)
    编辑部邮箱:casweb@cashq.ac.cn