Block Modeling-Guided Graph Convolutional Neural Networks

发表于:AAAI22
推荐指数: #paper/⭐⭐⭐
概括其思想:
其思路基于每个子块应该有自己的建模方式,以块为基础重构了相似性矩阵

Block matrix

给定标签矩阵Y\in\mathbb{R}^{n\times c}.块矩阵定义为:
H=\left(Y^TAY\right)\oslash\left(Y^TAE\right)
其中,E是和Y相似的all one矩阵.块矩阵链接任何两个块的相似性.

模型框架

学习块矩阵

有点看不懂,需要看代码
\bar{B}=\sigma\left(\mathrm{MLP}\left(X\right)\right)
B=\mathrm{softmax}\left(\bar{B}\right)
\mathcal{L}_{MLP}=\sum_{v_i\in\mathcal{T}_\nu}f\left(B_i,Y_i\right)
其中,\mathcal{T}_{\mathcal{V}}.这三个公式的意思是:用特征矩阵X去模拟标签矩阵Y.
Y_s=\{Y_i,B_j|\forall v_i\in\mathcal{T}_\mathcal{V},\forall v_j\notin\mathcal{T}_\mathcal{V}\}
H=\begin{pmatrix}Y_s^TAY_s\end{pmatrix}\oslash\begin{pmatrix}Y_s^TAE\end{pmatrix}

构建相似块矩阵:

得到新的块H后,我们进行如下操作:
Q=HH^T
\mathrm{Diag}\left(Q\right)\leftarrow\alpha\cdot\mathrm{Diag}\left(Q\right)

基于块的图卷积

B_i = \{b_i^1, b_i^2, ..., b_i^c\} \mathrm{and} B_j = \{b_j^1, b_j^2, ..., b_j^c\}.因此,这里有c^2个类链接对于任何节点\langle v_{i},v_{j}\rangle
相似性函数可以定义为:
p\left(\varphi(v_i)=Y_r,\right.\varphi(v_j)=Y_t)=b_i^rb_j^t
\varphi是映射函数,映射节点到它的类别.r,t\in\{1,2,...,c\}.
我们可以定义v_{i}和v_{j}的权重矩阵为:\omega_{ij}=\sum_{r=1}^c\sum_{t=1}^cq_{r,t}b_i^rb_j^t
矩阵形式为:
\Omega=BQB^T
我们利用权重矩阵重定义邻接矩阵A^{\prime}=\Omega\odot(A+\beta I)
但是,A'的每个元素可能不在(0,1)内.因此,我们利用相似性矩阵来重新归一化:
\tilde{a}_{i,j}=\frac{\exp{(a^{\prime}{}_{i,j})}}{\sum_{v_s\in\mathcal{N}}\exp{(a^{\prime}{}_{i,s})}}
最终,卷积函数被设计为:
Z^{(k)}=Z^{(k-1)}W_1^{(k)}+\tilde{A}Z^{(k-1)}W_2^{(k)}

模型优化:

\mathcal{L}_{GCN}=\sum_{v_i\in\mathcal{T}_\mathcal{V}}f\left(Z_i,Y_i\right)
\mathcal{L}_{final}=\lambda\mathcal{L}_{GCN}+(1-\lambda)\mathcal{L}_{MLP}