剔除来自通用人工智能的错误信息：迈向伦理化的管理和精炼-计算机科学-人工智能-机器学习-公平关切.pdf

剔除来自通用人工智能的错误信息：迈向伦理化的管

理和精炼

PRERANAKHATIWADA,UniversityofDelaware,USA

GRACEDONAHER,UniversityofDelaware,USA

JASYMYNNAVARRO,UniversityofDelaware,USA

LOKESHBHATTA,WilmingtonUniversity,USA

虽然人工智能（AI）并不是一个新领域，但最近的发展，特别是像ChatGPT这样的生成工具的发布，已经将

其带到了行业从业者和学术界人士的关注前沿。目前有很多关于人工智能及其通过自动化重塑我们所熟知的

许多日常流程的能力的讨论。它还允许用户扩展他们的想法，提出他们可能自己想不到的东西，并提供更便捷

本的信息访问方式。然而，这项技术带来的或迄今为止所带来的并非所有变化都是积极的；这就是为什么对于所

译有现代人来说，在使用这些工具并让它们造成危害之前认识到和理解风险至关重要。这项工作旨在更好地了解

中由新AI，特别是ChatGPT和深度伪造引起的许多公平关切以及虚假信息的传播，并鼓励与执法机构、开发者

和用户合作以减少伤害。考虑到众多学术来源，它警告了这些问题，分析了其在医疗保健、教育、科学、学术

1

v界、零售业和金融业等领域的成因和影响。最后，我们提出了一套面向未来的指导方针和政策考虑因素，旨在

2解决这些问题的同时仍推动这些领域内的创新，这一责任落在用户、开发者和政府机构身上。

4

2CCSConcepts:•Computingmethodologies→Naturallanguagegeneration;•Securityandprivacy→Social

4aspectsofsecurityandprivacy;•Appliedcomputing→Computationaljournalism;Computer-assistedinstruction;

1

.Ethics.

7

0AdditionalKeyWordsandPhrases:人工智能，ChatGPT，公平关切，虚假信息，合作，问责制

5

2

:1介绍

v

i虽然人工智能（AI）自20世纪60年代就开始被研究，但能够生成类似人类的文字、图像和其

x

r他内容的生成式AI，仅最近才从实验室过渡到广泛公众使用。AI给许多行业带来了深远的变

a

化，改变了医疗保健[12]、教育[2]、零售[7,10]、金融[9]等领域。人工智能是指机器执行通常

需要人类智能的任务的能力，如学习、决策制定、问题解决和/或感知[9]。AI可以分为三类：

计算机视觉（CV）、自然语言处理（NLP）和其他机器学习（ML）系统[7]。计算机视觉任务包

括对象检测、图像分类和医学影像处理。虽然NLP经常用于文本分类任务，因为这些模型中的

许多都基于预训练模型[14]。然而，机器学习利用统计算法从数据中解释模式，并根据这些模

式进行预测[9]。尽管这项技术带来了明显的机遇，但其应用的普及已引起了公众讨论的回应

[2]。随着像ChatGPT这样的软件出现，市民们担心准备情况、伦理、隐私、影响以及为了跟

Authors’addresses:PreranaKhatiwada,UniversityofDelaware,Newark,USA,preranak@;GraceDonaher,UniversityofDelaware,

Newark,USA,gdonaher@;JasymynNavarro,UniversityofDelaware,Newark,USA,jasnav@;LokeshBhatta,Wilmington

University,NewCastle,USA,lbhatta001@.

1

2