【计算机视觉】Graph Models算法介绍合集（一）

待我称王封你为后i 2023-10-16 09:02 3阅读 0赞

#### 文章目录 ####

*   *  一、Graph Convolutional Network（GCN）
     *  二、Diffusion-Convolutional Neural Networks（DCNN）
     *  三、Graph Transformer
     *  四、Graph Attention Network（GAT）
     *  五、GraphSAGE
     *  六、Message Passing Neural Network（MPNN）
     *  七、LightGCN
     *  八、Deep Graph Convolutional Neural Network（DGCNN）
     *  九、ARMA GNN
     *  十、Stochastic Steady-state Embedding（SSE）
     *  十一、Graph Isomorphism Network（GIN）
     *  十二、Relational Graph Convolution Network（RGCN）

图方法包括用于在具有先验结构信息的图上学习的神经网络架构，通常称为图神经网络（GNN）。

最近，深度学习方法正在扩展到处理图结构数据，从而产生了一系列解决不同挑战的图神经网络。 图神经网络在数据从非欧几里得域生成并表示为具有复杂关系的图的应用中特别有用。

GNN 广泛使用的一些任务包括节点分类、图分类、链接预测等等。

在吴等人提出的分类法中。 (2019)，图神经网络可以分为四类：循环图神经网络、卷积图神经网络、图自动编码器和时空图神经网络。

### 一、Graph Convolutional Network（GCN） ###

图卷积网络（GCN）是一种对图结构数据进行半监督学习的方法。 它基于直接在图上运行的卷积神经网络的有效变体。 卷积架构的选择是通过谱图卷积的局部一阶近似来推动的。 该模型在图边的数量上线性缩放，并学习对局部图结构和节点特征进行编码的隐藏层表示。

![在这里插入图片描述][db910eb033c541aaa233a1d1e83d6e15.png]

### 二、Diffusion-Convolutional Neural Networks（DCNN） ###

扩散卷积神经网络（DCNN）是图结构数据的模型。 通过引入扩散卷积运算，可以从图结构化数据中学习基于扩散的表示，并将其用作节点分类的有效基础。

![在这里插入图片描述][af8b024dc6d842128b8a2db39a1ea50f.png]

### 三、Graph Transformer ###

这是 Graph Transformer 方法，作为 Transformer 神经网络架构的泛化而提出，适用于任意图。

与原始 Transformer 相比，所呈现的架构的亮点是：

注意力机制是图中每个节点的邻域连通性的函数。  
位置编码由拉普拉斯特征向量表示，它自然地概括了 NLP 中经常使用的正弦位置编码。  
层归一化被批量归一化层取代。  
该架构被扩展为具有边缘表示，这对于边缘上具有丰富信息的任务或成对相互作用（例如分子中的键类型或知识图谱中的关系类型等）至关重要。

![在这里插入图片描述][90dad3ff481b486bb16653ad0c8ef856.png]

### 四、Graph Attention Network（GAT） ###

图注意力网络（GAT）是一种对图结构数据进行操作的神经网络架构，利用屏蔽自注意力层来解决基于图卷积或其近似的现有方法的缺点。 通过堆叠节点能够参与其邻域特征的层，GAT 能够（隐式）为邻域中的不同节点指定不同的权重，而不需要任何类型的昂贵的矩阵运算（例如求逆）或依赖于了解 预先的图形结构。

![在这里插入图片描述][4807763c73574a23adea78e7d61d636a.png]

### 五、GraphSAGE ###

GraphSAGE 是一个通用的归纳框架，它利用节点特征信息（例如文本属性）来有效地为以前未见过的数据生成节点嵌入。

![在这里插入图片描述][b985618ceca847ffaa04bf0ee725b2a7.png]

### 六、Message Passing Neural Network（MPNN） ###

![在这里插入图片描述][1a11aab4dfb9462bb47d2184e7a35bc2.png]  
![在这里插入图片描述][ca91bfda5abc476bb1ee313204e36031.png]

### 七、LightGCN ###

LightGCN 是一种图卷积神经网络（GCN），仅包含 GCN 中最重要的组件（邻域聚合），用于协同过滤。 具体来说，LightGCN 通过在用户-项目交互图上线性传播用户和项目嵌入来学习用户和项目嵌入，并使用所有层学习到的嵌入的加权和作为最终嵌入。

![在这里插入图片描述][06fa67b862364411a5c5d5e74759395b.png]

### 八、Deep Graph Convolutional Neural Network（DGCNN） ###

DGCNN 涉及直接读取图形并学习分类函数的神经网络。 存在两个主要挑战：1）如何提取表征图中编码的丰富信息的有用特征以用于分类目的；2）如何以有意义且一致的顺序顺序读取图。 为了解决第一个挑战，我们设计了一个局部图卷积模型并展示了它与两个图内核的连接。 为了解决第二个挑战，我们设计了一个新颖的 SortPooling 层，它以一致的顺序对图顶点进行排序，以便可以在图上训练传统的神经网络。

![在这里插入图片描述][004a0bb99cd74feba3dd4aec1c0f3216.png]

### 九、ARMA GNN ###

ARMA GNN 层使用递归近似实现有理图过滤器。

![在这里插入图片描述][26212922f5184f55ba3923edf6d3a3c6.png]

### 十、Stochastic Steady-state Embedding（SSE） ###

随机稳态嵌入（SSE）是一种可以在图上学习许多稳态算法的算法。 与图神经网络族模型不同，SSE是随机训练的，只需要1跳信息，但可以高效且有效地捕获定点关系。

![在这里插入图片描述][080cf3e952b24c729c0d67fc8726111e.png]

### 十一、Graph Isomorphism Network（GIN） ###

根据作者的说法，图同构网络 (GIN) 推广了 WL 测试，从而在 GNN 之间实现了最大的判别能力。

![在这里插入图片描述][dc1a39233858429aae90b3c538973b8b.png]

### 十二、Relational Graph Convolution Network（RGCN） ###

RGCN（关系图卷积网络）是 GCN 框架对关系数据建模的应用，特别是链接预测和实体分类任务。

![在这里插入图片描述][c3f42820175a440f956d987249f9383e.png]

[db910eb033c541aaa233a1d1e83d6e15.png]: https://img-blog.csdnimg.cn/db910eb033c541aaa233a1d1e83d6e15.png
[af8b024dc6d842128b8a2db39a1ea50f.png]: https://img-blog.csdnimg.cn/af8b024dc6d842128b8a2db39a1ea50f.png
[90dad3ff481b486bb16653ad0c8ef856.png]: https://img-blog.csdnimg.cn/90dad3ff481b486bb16653ad0c8ef856.png
[4807763c73574a23adea78e7d61d636a.png]: https://img-blog.csdnimg.cn/4807763c73574a23adea78e7d61d636a.png
[b985618ceca847ffaa04bf0ee725b2a7.png]: https://img-blog.csdnimg.cn/b985618ceca847ffaa04bf0ee725b2a7.png
[1a11aab4dfb9462bb47d2184e7a35bc2.png]: https://img-blog.csdnimg.cn/1a11aab4dfb9462bb47d2184e7a35bc2.png
[ca91bfda5abc476bb1ee313204e36031.png]: https://img-blog.csdnimg.cn/ca91bfda5abc476bb1ee313204e36031.png
[06fa67b862364411a5c5d5e74759395b.png]: https://img-blog.csdnimg.cn/06fa67b862364411a5c5d5e74759395b.png
[004a0bb99cd74feba3dd4aec1c0f3216.png]: https://img-blog.csdnimg.cn/004a0bb99cd74feba3dd4aec1c0f3216.png
[26212922f5184f55ba3923edf6d3a3c6.png]: https://img-blog.csdnimg.cn/26212922f5184f55ba3923edf6d3a3c6.png
[080cf3e952b24c729c0d67fc8726111e.png]: https://img-blog.csdnimg.cn/080cf3e952b24c729c0d67fc8726111e.png
[dc1a39233858429aae90b3c538973b8b.png]: https://img-blog.csdnimg.cn/dc1a39233858429aae90b3c538973b8b.png
[c3f42820175a440f956d987249f9383e.png]: https://img-blog.csdnimg.cn/c3f42820175a440f956d987249f9383e.png