【2021/超图卷积】Self-Supervised Multi-Channel Hypergraph Convolutional Network for Social Recommendation

文章全文首发：码农的科研笔记（公众号）

---

原文：https://arxiv.org/abs/2101.06448

源码：[伯乐] https://github.com/RUCAIBox/RecBole-GNN

1 动机

当用户的物品交互数据较为稀疏时

2 方法

如下所示，在左图中每个三角形都代表一个hyperedge（超边）。记号 𝐺_𝑠, 𝐺_𝑗, 和 𝐺𝑝} 分别代表基于社交网络（social network）、联合网络（joint network）以及购买网络（purchase network）构建而成的超图（hypergraph）。三个虚线椭圆内的区域分别对应于以变量 𝑈_2} 为中心的三个网络系统：社交系统的网络模型（social network model）、联合系统的网络模型（joint system's model）以及购买系统的网络模型（purchase system's model）。这些网络分别是基于社交网络、联合网络以及购买网络构建而成的

2.1【如何构建超图】

该研究者采用构建具有特定三角形结构节点的方式形成了超图模型。这些三角形关系反映了数据的基本语义特征。此外，在超图卷积网络架构中，每个通道负责提取不同层次的特征信息。如图所示，在该框架下：其中绿色圆圈标记的是用户节点（User Nodes），而黄色圆圈代表物品节点（Item Nodes）。例如，在显性社会网络‘Social Motifs’中识别出的所有潜在三角关系均被提取出来；这不仅能够反映个体间的紧密连接性（即有一个共同的朋友），还能捕捉到更高阶的社会互动模式；值得注意的是，在该模型中M_8和M_9分别对应于朋友群体中的共同购买行为；而M_{10}则特别关注于那些没有社交联系却仍购买相同商品的情况。

作者采用了‘Social Channel (s)’、‘Joint Channel (j)’ 和 ‘Purchase Channel §’等三种渠道，并为每种渠道赋予特定的编码方式；通过多通道的学习过程提取用户的嵌入表征并构建完整的用户关系网络模型

2.2【自监督增强模型】

Enhancing Deep Graph Infomax (DGI), the aim is to enhance mutual information (MI) between node representations and higher-level graph summaries.

此部分聚焦于模型的Self-Gating机制。该方法通过引入高阶关系而展现出显著的效果。然而其主要缺陷在于聚合操作可能导致高阶信息的丢失（具体而言是由于不同通道在各自独立的超图上学习不同的嵌入特征）。尽管通过连接来自不同通道的嵌入来修复这一问题但它采取了一种均等化的策略对待各类别的高阶信息这种做法既不符合实际情况也难以达到预期效果

本文首先从三个层次——用户节点、以用户为中心的核心子超图及整体上的超级网络结构——重新审视了怎样的用户的表征是有效的。即全面而有效的用户表征应能反映用户的局部连接模式以及整体连接模式之间的高阶关系特征。这种特征体现在用户的局部关联性体现在其与自身相关联的核心子超图中，并能够与其他用户的全局关联性形成对比关系的基础上实现更好的表达效果。因此，在构建嵌入模型时应更加注重突出用户的局部关联性，并通过构建核心子超graph来体现这种关联关系的特点。其中 z_u 和 h_u 分别代表了... 通过将supergraph矩阵行与列随机打乱的方式能够有效地生成高质量的负样本对；我们采用Info NCE损失函数作为优化目标来进行网络参数的学习训练工作；通过这种方法不仅能够有效提升模型对复杂社交关系建模的能力...

其中\mathcal{L}_s表示为损失函数的定义式：

\mathcal{L}_s = -\sum_{c \in\{s, j, p\}} \left[ \sum_{u=U} \log\sigma(f_D(\boldsymbol p_u^c,z_u^c) - f_D(\boldsymbol p_u^c,\tilde z_u^c)) + \sum_U \log\sigma(f_D(z_u^c,\boldsymbol h^c) - f_D(\tilde z_u^c,\boldsymbol h^c)) )

其中第一项计算的是输入特征与潜在变量之间的差异损失，
而第二项则衡量了潜在变量与隐藏状态之间的差异损失。
整个损失函数反映了模型对数据生成过程的总体建模效果。

2.3【损失函数】

该推荐任务的主要目标与辅助目标共同构成了联合学习的整体框架。
其中损失函数为\mathcal{L}=\mathcal{L}_{r}+\beta \mathcal{L}_{s}，
其中\beta是一个调节辅助学习效果的关键参数，
而\mathcal{L}_{s}则充当了一个正则项，
通过利用超图层次结构信息来增强用户的表示形式，
从而实现推荐性能的提升。

3 总结

从构建超图的角度来看，这种视角确实值得深入学习。不仅能够选择其他任务来辅助学习的同时也能通过这些辅助任务来进行模型优化（核心目的是为了更好地学习表征）。此外，本文所提出的方法不仅能够帮助理解用户行为模式还能与Self-Supervised Hypergraph Convolutional Networks for Session-based Recommendation这篇文章进行深度结合以提升推荐系统的性能