基于嵌入的方法进行超党派新闻检测-计算机科学-大语言模型.pdfVIP

基于嵌入的方法进行超党派新闻检测

KarthikMohan

karthik.mohan@mail.utoronto.ca

Abstract

在此报告中，我描述了旨在确定给定新闻文章是否可被视为极端偏党派的

系统。极端偏党派的新闻采取极其极化的政治立场，意图在公众中制造政治

分歧。采用了包括n元语法、情感分析以及使用预训练的ELMo模型进行句

本子和文档表示在内的几种方法。最佳系统是使用LLMs生成嵌入，其准确率

译达到了大约%%，超过了之前采用预训练ELMo与双向LSTM的最佳系

中统的83%准确率，该结果通过10折交叉验证得出。

3

v1介绍

0

7

31.1极端党派新闻

1

0社交媒体和在线通信的兴起使人们能够与大量观众分享信息。匿名性的面具以及缺乏监管

.

1和质量控制使得恶意用户以破坏性速度传播虚假新闻。高度党派化的新闻是一种典型的假

0

5新闻，通常具有高度极化（高度党派化）、情感化且不真实的特点，旨在误导公众。高度党派

2的文章模仿常规新闻文章的形式；然而，它们是一面之词，并且在忽视或攻击对立观点的意

:

v义上是高度极化的（Kiesel等人，2019）。能够检测某个来源是否具有高度党派性可以使我们

i更接近解决自动识别假新闻的问题。

x

r

a

1.2相关工作

政治倾向、偏见和虚假信息的分析引起了广泛关注，尤其是在2016年美国总统选举之后。已

经提出了各种机器学习方法。Pla和Hurtado（2014）提出了一种使用n-grams和词性标签等

特征的政治倾向识别SVM模型。Preotiuc-Pietro等人（2017）使用线性回归模型通过Twitter

上的语言使用来刻画用户的政治群体。为了解决假新闻问题，提出了基于知识的方法（Lee

等人，2018）和基于风格的方法（Potthast等人，2018）。此外，Barron-Cedeno等人（2019）

提出了一种公开的实时宣传检测系统，用于在线新闻，使用n-grams和词汇特征等特性。一

些假新闻数据集是公开可用的，但它们通常太小，不适合深度学习方法。

去年，SemEval2019的组织者（Kieseletal.,2019）在任务4，即“超党派新闻检测”中发布

了一个大型数据集，包含超过1M篇文章，并用标签集极端党派化，非极端党派化对这些数

据进行了标注。考虑到许多先前的工作尚未利用深度学习方法进行超党派检测，我们的目标

之一是通过探索深度学习在这一任务中的表现来缩小这一差距。前馈神经网络和卷积神经网

络（CNN）被用于处理各种类型的特征，包括句子嵌入、n元语法以及情感和情绪特征。

报告的其余部分组织如下：数据和任务定义在第2节中描述，第3节描述了我们的方法，随

后在第4节中介绍了实验和结果。最后，在第5节中讨论未来工作并总结本报告。

2数据

在此报告中，所使用数据由SemEval2019任务4（Kiesel等人，2019）提供。该任务被设置

为一个二元分类问题，其中新闻文章被标记为目标{极端党派性，非极端党派性}。

提供了两种类型的数据集，涉及标签是如何获得的。第一个数据集（按文章语料库）包含12