深度伪造在刑事调查中的应用-跨学科研究方向的 CMC 研究-计算机科学-深度伪造-机器学习.pdfVIP

深度伪造在刑事调查中的应用：

跨学科研究方向的CMC研究

LorenzMeinen,AstridSchomäcker,StefanieWiedemann,MarkusHartmann,

TimoSpeith,LenaKästner,NiklasKühl,ChristianRückert

UniversityofBayreuth,Bayreuth,Germany

FraunhoferFIT,Bayreuth,Germany,

ZACNRW,Cologne,Germany

{firstname.lastname,astrid.schomaecker,lena.kaestner,kuehl,christian.rueckert}@uni-bayreuth.de

摘要

深度伪造技术的出现既带来了机遇，也提出了重大挑战。虽然通常与欺骗、虚假信息和欺诈相关联，但深度伪造也可能在高

风险情境中（如刑事调查）启用新型应用。然而，这些应用引发了复杂的技术、伦理和法律问题。我们采取跨学科方法，借

本鉴计算机科学、哲学和法学的知识，探讨如何负责任地使用深度伪造进行刑事调查，并认为基于社交媒体语料库的计算机介

导沟通（CMC）研究可以为理解深度伪造潜在的危害与益处提供关键见解。我们的分析概述了CMC社区的关键研究方向，

译并强调在这一不断发展的领域中跨学科合作的需求。

中

1Keywords:深度伪造，执法，跨学科，CMC研究，社交媒体语料库

v

71.动机理和法律问题，特别是关于涉及的欺骗程度以及被“克

5

4隆”人员的安全性。这些问题不仅在道德上而且在法律

3生成式人工智能的发展及其广泛可用性具有从根本上上都具有高度相关性，尤其是在《人工智能法案》（法

0

.改变人类交流的潜力。它开启了众多可能性，包括使用规(EU)2024/1689）发布之后。然而，对于利用深度

7

0便捷且易于使用的工具创建合成媒体。虽然这项技术伪造技术“为更大的利益”的潜力和风险进行学术讨

5的一些应用看似无害（例如，为学校课程创作动画），论却很少。

2

:但其他一些则带来了显著的风险。特别令人担忧的一我们相信，如何（合法和道德地）在刑事调查中利用

v

i个例子是深度伪造：图像、视频或音频文件，它们能够深度伪造技术的问题需要通过跨学科的方法来解决。

x

r逼真地模拟现实中的人们从未做过或说过的事情。此外，在本文中，我们建议了几种途径，说明了借助

a

因此，深度伪造很容易与欺骗和欺诈、虚假信息或舆CMC研究可以进一步改进的方法。我们认为，通过这

论操纵(Verdoliva,2020)联系在一起。虽然这听起来样做，我们的项目突出了分析CMC语料库以理解和减

它们主要对社会构成威胁，但也有另一方面：深度伪轻与深度伪造相关的风险的潜力—这是一个CMC社

造可能为各种情境创造有用的逼真媒体开辟了可能性。区已经开始积极讨论的话题(Russo,2024)。以下，我

其中一个尚未得到充分关注的情境是刑事调查。在刑们将首先分别讨论来自计算机科学（Section2.）、哲学

事调查中，可以利用深度伪造从远处渗透犯罪网络并（Section3.）和法律研究（Section4.）的问题；随后，

获取特权信息。为此，调查人员将依赖一种被称为（语我们强调了一些只能通过跨学科视角来