GNN for Science: 腾讯AI Lab、清华共同发文综述等变图神经网络

机器之心专栏
腾讯AI Lab ,清华AIR&计算机系

一文了解等变图神经网络的结构和相关任务 。
近年来 , 越来越多的人工智能方法在解决传统自然科学等问题上大放异彩 ,在一些重要的学科问题(例如蛋白质结构预测)上取得了令人瞩目的进展 。
在物理领域的研究中 , 非常多的物理问题都会涉及建模物体的的一些几何特征 , 例如空间位置 , 速度 , 加速度等 。 这种特征往往可以使用几何图这一形式来表示 。 不同于一般的图数据 , 几何图一个非常重要的特征是额外包含旋转 , 平移 , 翻转对称性 。 这些对称性往往反应了某些物理问题的本质 。 因此 , 最近以来 , 大量工作利用了几何图中的对称性 , 基于经典图神网络设计了很多具有等变性质的模型去解决对几何图建模问题 。
尽管在这一领域 , 等变图神经网络模型取得了长足的发展 , 但是还缺乏一个系统性的对这一领域的调研 。 为此 , 腾讯 AI Lab ,清华 AIR & 计算机系在综述:《Geometrically Equivariant Graph Neural Networks: A Survey》中 , 对等变图神经网络的结构和相关任务进行了一个系统梳理 。
GNN for Science: 腾讯AI Lab、清华共同发文综述等变图神经网络
文章图片

综述论文链接:https://arxiv.org/abs/2202.07230
在物理和化学领域 , 很多问题需要去处理带有几何特征的图 。 例如 , 化学小分子和蛋白质都可以建模成一个有原子和其化学键关系组成的几何图 。 在这个图中 , 除了包含原子的一些内在特征以外 , 我们还需要考虑到每个原子在空间的三维坐标这一几何特征 。 而在物理学的多体问题中 , 每个粒子的几何特征则包括坐标 , 速度 , 旋转等 。 不同于一般特征 , 这些几何特征往往都具备着一些对称性和等变性 。 正因为如此 , 基于对对称性的建模 , 大量基于图神经网络的改进模型在近年来被提出 。 这一类模型 , 因为克服了传统图神经网络无法很好处理这类具有等变对称性质的特征的缺点 , 被统称为等变图神经网络 。
在这篇综述里面 , 我们系统性的梳理了近年等变图神经网络的发展脉络 , 并且提供了一个简洁的视角帮助读者能够很快的理解这类网络的内涵 。 基于消息传播和聚合函数的不同 , 我们将现有的等变图神经网络分为三类 。 与此同时 , 我们还详尽阐释了当前的挑战和未来的可能方向 。
等变图神经网络基础框架
在实际应用中 , 我们需要处理的图不仅包含拓扑连接和节点特征 , 同时也会包含一些几何特征 。 在使用图神经网络处理这些数据的时候 , 不同的特征需要满足不同的性质 。 例如 , 在预测分子的能量时 , 我们需要这个预测对于输入的几何特征是不变的 , 而在分子动力学应用中 , 我们则需要预测的结果和输入的几何特征是等变的 。 为了达到这样的目的 , 我们提出了一个等变图神经网络的通用框架:
GNN for Science: 腾讯AI Lab、清华共同发文综述等变图神经网络
文章图片

在这个框架中 ,
GNN for Science: 腾讯AI Lab、清华共同发文综述等变图神经网络
文章图片

代表输入图的几何特征 , 而h_i,h_j 代表非几何特征 。
GNN for Science: 腾讯AI Lab、清华共同发文综述等变图神经网络
文章图片


GNN for Science: 腾讯AI Lab、清华共同发文综述等变图神经网络
文章图片

分别代表在边(x,j)上的几何和非几何的消息 。
GNN for Science: 腾讯AI Lab、清华共同发文综述等变图神经网络

特别声明:本站内容均来自网友提供或互联网,仅供参考,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。