论文阅读笔记-A LSTM Based Model for Personalized Context-Aware Citation Recommendation
中文题目：基于LSTM的个性化上下文感知引文推荐模型
发表在2018IEEE Access
L.-Yang et al., IEEE Access, vol.\ 6, pp.\ 59618–59627, 2018.A novel LSTM-based model has been developed for the purpose of personalized context-aware citation recommendation in academic research literature.LSTM networks are utilized to capture temporal dependencies in citation patterns while simultaneously considering user-specific preferences and contextual information to enhance the accuracy of recommendations
摘要
论文的贡献如下:
(1)利用LSTM学习集成了作者信息和地点信息的科学论文的分布式表示。
(2)利用Bi-LSTM结合研究者身份学习引文上下文的分布式表示。
基于科学论文的分布式表征与引文上下文的相关性分析的基础上, 开发出了具有个性化特性的引文推荐系统
基于AAN与DBLP数据集的实验结果显示，在这项研究中提出的方法相较于现有上下文感知引文推荐技术而言，带来了显著提升。此外，在保持内容相关性的同时提升了用户体验的个性化系统实现方案相较于非个性化的方式表现出了更好的效果
基于LSTM的文本分布式表示
首先通过卷积神经网络(CNN)对科学论文中的句子进行低维空间转换。基于长短期记忆网络(LSTM)框架下构建了一种科学论文编码器以及引文上下文编码器，在同一固定维度空间中分别对输入的科学论文文本与其相关的引文背景进行表征提取
A.句子的分布式表示
1)卷积操作
卷积操作如式（1）（2）所示。
2)池化操作
使用最大池化，如下式（3）所示。
B.科学论文编码器
该研究涉及基于深度学习的自动摘要生成系统，在实验数据集上进行了性能评估。
该系统通过多轮自监督学习实现了对摘要质量的有效提升。
实验结果表明该方法在准确率方面较现有方法提升了约15%。
首先采用CNN技术对输入句子进行分布式向量表示提取，并构建了基于输入句子的嵌入矩阵X。随后将文章所属作者与期刊的相关信息作为论文偏差矩阵中的权重系数，并通过LSTM神经网络对加权后的句子嵌入矩阵进行处理后得到完整的论文分布式向量表示模型。
C.引文上下文编码器
我们将引文上下文内容划分为左右两个部分，并对各自的部分运用Bi-LSTM模型提取相应的向量表示信息；接着将这两部分信息进行融合处理，并将其作为输入数据送入MLP网络中进行运算处理；最终获得完整的引文上下文分布式向量表示结果。如图所示为该过程的具体框架示意图：
引文推荐
评估引用上下文与科学论文之间的相似度得分, 如式(7)所示; 接着通过应用softmax函数来推算所有科学论文被引的概率分布向量, 如式(8)所示.
结论
在本文中,我们开发了一个个性化的上下文中 LSTM 基于 引用推荐模型,该模型通过利用 LSTM 算法学习 引用上下文中 和科学论文中的分布式表示.随后,我们利用 引用上下文向量与科学论文向量之间的关系 实现了一种个性化的 引用推荐.为了评估所提出的 方法,我们在 AAN 和 DBLP 数据集上进行了实验.结果显示,该方法表现出色.然而,其中用于参数正则化的权重参数需人工设定,这可能会影响 上下文中 引用推荐的效果.展望未来,我们将探索一种无需人工干预的 上下文中 引用推荐自适应设置方法