Advertisement

Explainable Link Prediction for Emerging Entities in Knowledge Graphs

阅读量：

研究问题

具有可解释性的实时更新知识图谱链路预测模型

背景动机

  • 现有技术中的嵌入模型通常缺乏对路径机制的明确解释。
  • 路径导向的方法在提取与嵌入相关的统计特性方面存在局限性。
  • 综合路径与嵌入方法的传统模型往往受限于static snapshot处理能力，在训练阶段要求所有实体已知且无法动态扩展。

模型方法

  • 总体思路

该Graph Transformer采用编码模块通过归纳的方式整合邻近节点的信息以及当前查询关系，并通过强化学习方法来处理推理路径。

  • Graph Transformer
在这里插入图片描述

将实体

在这里插入图片描述

的邻居定义为

在这里插入图片描述

，对某个邻居实体

在这里插入图片描述

，其传递到源实体的信息计算为

在这里插入图片描述

代入transformer的计算公式，其中

在这里插入图片描述

为被查询关系

在这里插入图片描述
在这里插入图片描述

根据Q和K计算注意力分数

在这里插入图片描述

根据V得到新的实体嵌入

在这里插入图片描述

通过残差连接和LN层接着做些变换

在这里插入图片描述
  • Policy Gradient for Explainable Reasoning

利用强化学习搜索推理路径的部分，将其视为马尔科夫决策过程，参数为

在这里插入图片描述

，表示状态空间，活动、概率和奖励。

每一个状态表示为

在这里插入图片描述

，活动表示为

在这里插入图片描述

，路径历史由LSTM计算

在这里插入图片描述

，损失函数为

在这里插入图片描述
在这里插入图片描述

实验部分

这里作者进行了特定的处理步骤，并对其进行了详细的设计说明：在训练集中隐藏了测试阶段中的主实体节点（head nodes），同时确保这些节点在其邻居位置上是可见可访问的状态；此外，在辅助数据集中提供了测试阶段主实体节点及其邻居信息的数据支撑

在这里插入图片描述

结论

这篇论文提出了一种新的问题情境，在测试集中的第一个实体如果在训练集中不可见时提升模型性能，并且在进行预测的同时还能够提供推理路径。该研究通过采用图Transformer作为编码器来解决第一个问题，并采用强化学习方法作为解码器来解决第二个问题。首先，在Transformer架构中，其主要优势在于能够有效地整合待查询关系以及邻居实体的信息。其次，在实际应用中，这种架构能够在 entity缺失 的情况下，通过已知的邻居和关系进行合理的推断。

全部评论 (0)

还没有任何评论哟~

相关文章推荐

Explainable Link Prediction for Emerging Entities in Knowledge Graphs

研究问题 可解释的动态知识图谱链路预测模型，这里的动态指的是实体可以动态添加，即训练时不要求所有实体都存在 背景动机 传统的嵌入模型不具备显式的可解释性 基于路径的模型无法利用嵌入模型所能挖掘到的统计...

论文浅尝 | Explainable Link Prediction in Knowledge Hypergraphs

笔记整理：陈子睿，天津大学硕士 论文链接：https://dl.acm.org/doi/10.1145/3511808.3557316 动机 知识超图链接预测已被认为是各种知识使能下游应用的关键问题。

Disconnected Emerging Knowledge Graph OrientedInductive Link Prediction

摘要 归纳链接预测ILP是针对新兴知识图KGs中不可见实体的链接进行预测，考虑到KGs的演化性质。更具有挑战性的情况是，新兴知识图仅由不可见实体组成，没有与原始知识图相连的任何边，称为断开新兴知识图D...

Interaction Embeddings for Prediction and Explanation in Knowledge Graphs

研究问题 研究了实体嵌入和关系嵌入之间的交叉交互问题，并试图为三元组提出可依赖的解释 背景动机 之前的基于嵌入的模型没有把crossoverinteractions纳入考虑，即从实体到关系的交互和从关...

Anchoring Path for Inductive Relation Prediction in Knowledge Graphs

.5 摘要 为了准确预测现实世界知识图谱中普遍存在的代表实体之间关系的缺失边，关系预测在提高知识图谱的全面性和实用性方面起着至关重要的作用。基于路径的方法具有归纳性和可解释性，近年来的研究主要集中在基...

Explainable Reasoning over Knowledge Graphs for Recommendation

ExplainableReasoningoverKnowledgeGraphsforRecommendation 1\.摘要 近年来，将知识图结合到推荐系统中已引起越来越多的关注。通过探索知识图中的互...

Explainable Reasoning over Knowledge Graphs for Recommendation

ExplainableReasoningoverKnowledgeGraphsforRecommendation 摘要 将知识图谱引入推荐中存在的问题 未充分探索用于推断用户偏好的这种连接性 对路径内...

Learning Attention-based Embeddings for Relation Prediction in Knowledge Graphs Deepak

相关工作 现有的方法通过仅关注实体特征或以不相交的方式考虑实体和关系的特征学习KG嵌入，相反，我们提出的图注意力模型从整体上捕获了KG中任何给定实体的n跳领域中的多跳和语义相似的关系。 我们的方法 1...

Simple negative sampling for link prediction inknowledge graphs

摘要 知识图嵌入方法学习知识图中实体和关系的低维向量表示，便于知识图中的链接预测任务。在学习嵌入过程中，采样负三元组是很重要的，因为KGs只观察到正三元组。据我们所知，均匀随机、基于生成对抗网络GAN...

Learning Attention-based Embeddings for Relation Prediction in Knowledge Graphs阅读笔记

关系预测存在的问题 最新的关系预测方法主要是基于知识嵌入的模型，它们大致分为转化模型和卷积神经网络。转化模型使用简单的操作和有限的参数来学习嵌入，产生了低质量的嵌入。基于CNN的模型由于其大量的参数和...