Advertisement

【论文阅读】A Comprehensive Survey on Schema-based Event Extraction with Deep Learning

阅读量:

论文阅读

论文阅读

论文阅读

Qian Li et al. 2021

总结:

  • 分类整理了deep learning事件抽取的进展和方法


Event Extraction paradigm 概念比较

该联合方法通过构建联合学习模型来实现对识别任务的支持,并非单纯依赖于单一机制完成功能,在这一过程中实现了对识别任务的支持与优化;其中的触发器与参数能够相互促进以提升提取效果

事件抽取模型 EE Models
传统EE模型
基于模式匹配的方法,传统EE模型主要依赖于语法树或正则表达式。

Based on statistics (ML)
2.
Deep Leaning based models
1. CNN-based
2. RNN-based
3. Attention-based
4. GCN-based
5. Transformer-based 目前主流 由bert带来的预训练模型(句子级别)
1. PLMEE 解决角色overlap问题,将不同论元角色分开预测;两阶段都基于bert:trigger和argument
2. DYGIE++ 多句bert编码 句子之间的上下文
3. QA方法 句子级
4. GAIL 使用GAN 强化学习
5. Transfer learning
6. 总结:

现有传统事件提取方法主要依赖于手工设计特征提取过程,并通过分类模型对触发词进行识别和参数作用分析。目前阶段,在图像处理、语音识别以及自然语言处理等领域中应用的深度学习技术均展现出显著的优势。鉴于传统方法存在的局限性问题,在研究领域内开始深入探讨基于深度学习的技术实现。主流方法是通过从文本中识别触发词来确定事件类型。如今随着BERT技术的应用推广……这是因为BERT具备强大的上下文捕捉能力,在小样本场景下展现出良好的性能。

大部分传统的事件抽取方法采用了人工构建特征表示的方式,并利用分类模型来识别触发词并确定实体的作用。近年来,在图像处理、语音识别以及自然语言处理等领域中,深度学习展现出了卓越的效果(等)。为了弥补传统方法存在的不足,系统性地探讨了基于深度学习的事件抽取方法。在引入BERT之前的主要做法是从文本中提取触发词并根据触发词判断文本类型的方法成为主流。如今,在引入基于BERT的事件抽取模型之后,“通过分析全文来识别事件类型的方法成为主流”。这是因为BERT具备强大的上下文理解能力并且在小样本任务中表现出良好的性能。

以下是对输入文本的同义改写版本

本文主要介绍了现有的用于事件提取任务的深度学习模型。与传统方法相比,结论如下:1)基于深度学习的事件提取方法可以自主学习,可以自主学习特征 。触发器分类和参数角色分类的性能优于传统方法。 2)随着深度学习的快速发展,机器学习和基于神经网络的深度学习在事件提取方面不断取得良好进展。使用深度学习模型解决缺失数据 将为后续研究提供重要的研究方向。首先从事件抽取的三个方面介绍概念和定义。然后我们将基于深度学习的事件提取范式分为管道和关节部分,分别进行介绍。基于深度学习的模型通过改进表示学习方法、模型结构以及附加数据和知识来提高性能。然后,我们介绍带有汇总表和评估指标的数据集。此外,我们在 ACE 2005 数据集的汇总表中给出了领先模型的定量结果。最后,我们总结了事件提取未来可能的研究趋势。This paper principally introduces the existing deep learning models for event extraction tasks. Comparing with the traditional methods, the conclusions are as follows: 1) The event extraction methods based on deep learning can autonomously learn, and they can autonomously learn the features. The performance of trigger classification and the argument role classification is better than the traditional methods. 2) With the rapid development of deep learning, machine learning and deep learning based on neural networks are making good progress in event extraction continuously. Using deep learning models to solve missing data will provide an essential research direction for the followup research. Firstly, we introduce concepts and definitions from three aspects of event extraction. Then we divide the deep learning-based event extraction paradigm into the pipeline and joint par ts and introduce them, respectively. Deep learning-based models enhance performance by improving the presentation learning method, model structure, and additional data and knowledge. Then, we introduce the datasets with a summary table and evaluation metrics. Furthermore, we give the quantitative results of the leading models in a summary table on ACE 2005 datasets. Finally, we summarize the possible future research trends of event extraction.

全部评论 (0)

还没有任何评论哟~