问答系统中的常识推理研究.pdfVIP

摘要

自然语言处理(NaturalLanguageProcessing,NLP)中的问答(Question

Answering,QA)是从自然语言中给定问题的一组候选答案中选择最佳答案。一个

有效的问答系统需要理解问题的上下文信息并进行常识推理。尽管问答系统的性

能已经显著提高，但开发能够有效执行常识推理的问答模型仍具有挑战性。

本文针对常识问答任务，提出了两种新颖的常识推理方法：选择驱动的常识

推理问答以及基于诱导的常识推理问答。在选择驱动的常识推理问答中，首先在

知识图谱中检索问题实体与答案实体相应的上下文描述信息。其次在编码过程中

模拟前后阅读，即从问题到候选答案以及从候选答案到问题的双向阅读理解模式，

此外，它们的描述信息也使用类似的方式编码，以获得描述信息之间的双向语义

信息。接下来，计算每个候选答案与其它候选答案之间的语义差异。最后，我们

使用双层注意力机制整合检索到的上下文信息。

在基于诱导的常识推理问答中，为了能够从两个方面诱导问题的表示，首先

提取了候选答案之间的共同主题的表示，以此来加强问题中所有候选答案都关注

的语义信息，接下来，每个候选答案对于当前问题也进行诱导，旨在加强问题中

每个候选答案所关注的信息，最后，对这两种诱导信息进行整合以获得针对于不

同候选答案最独特的问题信息，并且该信息被视作选择该答案的理由。

与现有模型相比，本文的两种模型在多项选择问答(Multiple-ChoiceQuestion

Answering,MCQA)数据集上均表现出卓越的性能，此外还进行了各种案例研究

来展示模型的有效性。

关键词：常识问答，常识推理，注意力机制

I

II

Abstract

Questionanswering(QA)innaturallanguageprocessing(NLP)istoselectthe

bestanswerfromasetofcandidateanswersforagivenquestioninnaturallanguage.

Aneffectivesystemforquestionansweringrequiresanabilityofunderstandingthe

contextualinformationofthequestionandperformingcommonsensereasoning.

Althoughtheperformanceofquestionansweringsystemshasbeensignificantly

improved,itischallengingtodevelopmodelsofquestionansweringthatcan

effectivelyperformcommonsensereasoning.

Inthispaper,weproposetwonovelcommonsensereasoningmethodsfor

commonsensequestionansweringtasks:choice-drivencommonsensereasoningfor

questionansweringandabduction-basedcommonsensereasoningforquestion

answering.Inthechoice-drivencommonsensereasoningforquestionanswering,the

contextdescriptioninformationcorrespondingtothequestionentityandtheanswer

entityisfirstretrievedfromtheknowledgegraph.Secondly,wesimulate

forth-and-backreadingthroughtheencodingprocess,thatis,thebidirectionalreading

comprehensionmodefromquestiontocandida