Contextualized Graph Attention Network for Recommendation with Item Knowledge Graph

Contextualized Graph-Attention Networks in recommendation tasks with Item-Knowledge Graph

Abstract

图神经网络(GNN)最近在知识图谱(KG)辅助推荐系统研究中得到了广泛的应用[ GraphAttentionNet work(CGAT)，它可以显式地利用知识图谱中实体的局部和非局部图形上下文信息。具体而言；CGAT通过基于用户特定的关注机制识别本地语境信息；充分考虑了用户的个性化偏好；同时；该框架还采用偏置随机游走抽样过程提取实体的非本地上下文；并通过递归神经网络(RNN)模型深入学习实体与其相关联项之间的复杂依赖关系。为了深入挖掘用户的个性化偏好；我们特别开发了一种项目特定的关注机制；该机制能够有效模拟目标项目与用户历史行为相关的潜在语义关联。

Introduction

论文中指出利用知识图谱进行推荐面临的主要挑战是什么？重点在于如何有效地探索知识图谱内部的结构以及实体之间的相互关系？现有研究主要集中在局部上下文（local graph context,即the first-order neighbors）和非局部上下文（non-local graph context,即the set of most related high-order neighbors）的相关性计算上。现有的基于GNN的知识图谱（Knowledge Graph, KG）推荐方法能够自动提取网络结构和语义信息。然而，在此过程中可能会削弱与紧密相关实体的影响力度，并引入不必要的噪声数据

为了应对这些问题，在本文中我们构建了一个新的推荐框架——上下文化图形注意网络(CGAT)——它能够明确地考虑实体在内部环境与外部环境中的影响。 在知识图谱领域，并结合用户历史数据所包含的信息来提取项目相关的信息

本文件的主要贡献体现在以下几个方面：（1） 开发了一种专门针对用户的图注意力机制，在整合知识图谱（KG）中的本地上下文信息时充分考虑了用户的个性化需求。（2） 深入挖掘了知识图谱中非本地实体间的关联关系，并通过设计带有偏差性的随机游走抽样策略提取出实体的非局部语义特征；同时结合递归神经网络（RNN）模型成功建模了实体与其非局部语义特征之间的依赖关系。（3） 设计了一个项目专用注意力机制，在分析用户的互动历史数据时精准捕捉到了其偏好特征。（4） 通过一系列实验测试评估了该方法的表现；结果表明，在多个关键指标如准确率和召回率上所提出的CGAT显著优于现有基于知识图谱的知识化推荐方法。

Related Work

KG框架下的推荐机制主要包含以下三种类型：第一类是利用正则化手段进行优化的算法；第二类是通过分析数据路径关系进行优化的模型；第三类则是采用图神经网络模型构建推荐模型。

（1）通过正则化手段结合KG结构，在学习实体嵌入的过程中融入正则化项至损失函数计算中。
（2）基于路径分析的方法通过分析实体间的多维度连接模式，在弥补人工设计元路径局限的基础上提出了新型选择标准与传播机制。
（3）以GNN为基础的技术致力于开发基于端到端知识图谱的推荐系统框架；这种基于GNN的技术通过逐层传递与聚合高阶邻域信息来实现隐式关系建模，并非如传统显式建模那样直接刻画实体与其上层邻居之间的依赖关系。

Contextualized Graph Attention Network

对于一个项目对应的实例来说，在其属性空间中通常会关联到大量能够丰富知识图谱信息的相关实例。 在这种背景下为了满足不同用户对知识图谱中实例个性化关注的需求而开发了一种特殊的基于用户的图形注意力机制 该机制能够在KG中提取出实例间的邻近关系 并在此基础上为每个实例生成其领域内独特的表示向量 从而实现对不同领域实例间的语义关联建模 最终使得系统能够根据输入的具体语义需求自动调整其关注的重点 进而提升整体推理能力