信息论视角下的模拟命令中伦理属性的聚合-计算机科学-机器学习-信息论.pdfVIP

1

信息论视角下的模拟命令中伦理属性的聚合

TaylanAkay,HarrisonTolley,HusseinAbbass

SchoolofSystemsandComputing,UniversityofNewSouthWales,CanberraACT,Australia.

Emails:{t.akay,h.tolley,h.abbass}@.au

摘要—伦理一直是纯粹的人类努力。作为目前最智能的物间通常非常大，超出人类系统地审查每种可能性以评估

种，具备执行道德代理角色和职责的能力，人类承担着作出道德操作后果的能力，更不用说伦理后果了。为了测试这些

判断的责任。在人工智能时代，人类指挥官需要利用当今’环境AI系统，基于模拟的测试提供了这样一种方式：场景

中的计算能力来模拟大量场景。在每个场景中，会发生不同决策

得到模拟，AI子系统的性能得到评估，结果得到评价，

设计选项可能具有伦理后果的情况。依赖人类判断作出这些决定

并且测试程序通过生成更多复杂的场景来对系统进行

既不利于及时探索大量场景的目标，在考虑将人类涉及每项选择

本所需的工作量时也是不可行的。压力测试。不同的哲学思想，如大规模场景生成[1]，以

译在本文中，我们将人类判断移出模拟决策循环。人类输入在及诸如计算红队（CRT）[2],[3]等方法论已经在这方面

设计用于评估模拟过程中生成选项的伦理度量空间时变得更加的文献中被提出。}

中重要，在此之前的预模拟阶段以及在此之后的选择最终行动方案

1的后模拟阶段。基本上，人类将设计伦理度量空间，将其留给模使用这些自动化测试方法的挑战在于，在模拟过程

v拟环境进行探索。当模拟完成其测试周期后，测试环境将返回几中如何评估涉及伦理属性的解决方案。从理论上讲，我

2

6个可供选择的选项给人类指挥官。然后，人类指挥官将运用人类们有可能设计出可以作为伦理属性代理指标的度量标

8判断来选择最合适的行动方案，并相应执行。准。例如，如果一个伦理原则是尽量减少对非战斗人员

2

我们假设设计足够细致的度量来评估决策的伦理影响的问

1的危害，我们可以将危害分类为物理、功能、经济、心

.题已经解决。随后，本文关注的基本问题是如何在这些模拟运行

7理和社会方面的。然后，我们可以为每个类别的危害设

0过程中对伦理决策进行加权；也就是说，在生成性模拟中当代理

5面对具有伦理影响的决策选项时，如何动态地对伦理属性进行加计一种或多种衡量标准。对于某些伦理原则和情况，这

2权。多准则决策制定文献已经开始研究类似问题，其中使用了熵一过程可能会变得繁琐，可能没有令人满意的解决方

:

v的概念来确定聚合过程中的权重。我们从该文献中借鉴了不同方案。以量化任务效果中存在的麻烦为例，并且需要在估

i

x法以自动计算基于模拟测试和评估期间的伦理属性权重。然后比计伤亡人数来估算比例性时做出权衡。尽管我们承认与

r

a较所得权重并得出结论。

设计伦理属性和指标相关的复杂性，在本文中假设找到

了一个可接受的解决方案。对于那些我们无法’设计这

I.介绍些度量标准的原则，我们将保留由指挥官在选择最终行