知识图谱与深度学习_biji
发布时间
阅读量：
阅读量
深度学习是分布式表示，知识图谱是符号表示
知识图谱表示学习
基于复杂关系建模的TransR和CTransR模型中
以基于关系路径的方式构建PTransE模型。利用最多3步的关系路径来刻画推理信息，并限定这些path仅包含不超过3个步骤的数量。为此定义了一个用于评估关系path可靠性的指标，并借鉴PageRank的思想。其中每个单独的path值会被计算为所有单个步骤结果之和或乘积。将p视为基于多步path推导出的一种近似表达
通过将对象的属性与它们之间的关系进行建模来实现
综合实体描述信息进行的知识表示学习是一种新型方法，在这一过程中不仅需要考虑传统的基于知识图谱的方法还需要结合新兴的基于实体描述的技术特点。在统一的平移框架下构建多模态的知识表示模型能够有效提升模型的表现能力。该数学公式E(h,r,t)=a_1||h_s+r-t_S||+a_2||h_s+r-t_D||+a_3||h_D+r-t_s||+a_4||h_D+r-t_D||展示了不同关系类型下的表现差异其中下脚标S、D分别用于区分基于知识图谱和基于实体描述文本的实体表示
整合层次信息 (不同类型的实体对应着各自的知识表征,每个实体都有独特的投影矩阵,其构建过程受制于实体层次类型的指引)
知识的自动获取
- 关系抽取被视为核心任务，在未标注的自主生成文本中提取实体间的相互关联，并将其组织成世界知识框架。
- 该过程对其高昂的成本使得仅依赖人工标注的数据难以满足需求。
- 借助于远程监督技术（即基于已有知识图谱的知识引导式标注方法），可有效降低大规模数据标注的成本。
- 但远程监督不可避免地会产生错误标签信息。
- 为此可尝试引入多实例学习方法来解决这一问题。
- 在研究多语言场景下的关系抽取时发现：基于选择性注意力机制的设计能够有效提升模型性能。
- 该方法通过构建语句级别的注意力机制，在所有实例的语义向量上动态地减少噪声实例所对应的权重。
- 同时尽可能地利用所有实例的信息进行关系抽取。
- 针对多实例场景设计了一种基于层次注意力机制的方法，在此过程中系统会逐步关注包含相同实体对的不同实例并动态调整其权重分配。
- 此外还探索了结合对抗训练策略以进一步提升模型鲁棒性
实体分类与对齐；基于知识图谱与实体表示的指导引入了一种注意力机制；从而实现了利用知识图谱进行实体分类。
义原，基于义原的词表示学习
全部评论 (0)
还没有任何评论哟~