基于深度学习的细粒度命名实体识别研究.pdfVIP

重庆师范大学硕士学位论文中文摘要

基于深度学习的细粒度命名实体识别研究

摘要

命名实体识别（NamedEntityRecognition，NER）任务是一项基本的自然语言

处理任务，其目标是从文本中识别具有特定含义的命名实体，例如姓名、地址、

企业政府等。相比于传统的命名实体识别，细粒度命名实体识别能够将命名实体

划分为更细致的类别，进一步剖析命名实体在文本中的具体性质和定义，所以研

究细粒度命名实体识别具有十分重要的实际意义。

但目前细粒度命名实体识别在技术上存在更多的挑战，包括如何准确地定义和

区分细微的、复杂多类型的实体类别；如何处理实体类别之间的层级关系和边界

条件，统一整合不同类型的命名实体识别任务，以及传统的基于规则和统计学习

的方法难以学习到上下文全局特征。针对这些问题，本文的主要研究内容如下：

（1）针对细粒度命名实体类型繁多，大量平面命名实体和嵌套命名实体交错

在训练样本中影响识别效果的问题，本文设计了一种基于联合预测的命名实体识

别框架。首先利用预训练语言模型进行上下文的词嵌入表示，然后设计了一个平

面命名实体识别模型和基于双仿射注意力机制的局部关系实体识别模型，最后通

过分别调整平面命名实体识别模型和局部关系识别模型的预测权重进行联合预

测，构建联合预测模型框架。实验证明，该方法很好地解决了命名实体类型相互

交错的负面影响，在细粒度命名实体数据集上与主流方法进行对比，F1值达到

95.04%，实验结果表现最佳。

（2）针对现有方法难以处理实体类别之间的层级关系和边界条件，无法有效

统一整合不同类型的命名实体识别任务的问题，本文构建了面向词对关系的细粒

度命名实体识别方案。本文通过分析平面、嵌套以及不连续命名实体的不同特性，

构建了两种词对关系，通过词对关系建模将三种类型的命名实体特点和边界进行

分类确定。实验证明，该方法能够明确处理实体类别的边界条件和层级关系，将

不同类型命名实体识别任务进行了统一，分别在CLUENER、ACE2005以及

CADEC数据集上与主流方法进行对比，F1值分别为81.96%、86.13%和72.25%，

实验结果表现最佳。

关键词：深度学习，命名实体识别，细粒度，联合预测

I

重庆师范大学硕士学位论文英文摘要

ResearchonFine-GrainedNamedEntityRecognitionBased

onDeepLearning

ABSTRACT

NamedEntityRecognition(NER)isafundamentaltaskinNaturalLanguage

Processing,aimedatidentifyingnamedentitieswithspecificmeaningsfromtext,such

asnames,addresses,companies,governments,etc.ComparedtotraditionalNER,

Fine-GrainedNamedEntityRecognition(FNER)canclassifynamedentitiesintomore

detailedcategories,furtheranalyzingthespecificpropertiesand