Ethics2vec: 自动代理与人类偏好的对齐.pdfVIP

Ethics2vec:自动代理与人类偏好的对齐

GianlucaBontempi

MachineLearningGroup

UniversitéLibredeBruxelles,Belgium

mlg.ulb.ac.be

Abstract一些严重问题，主要是由于无法观察到这些代理的伦理

价值观。这一点在决策环境中尤其敏感（例如安全关键

人类与智能代理的互动将持续增长，并且在未来将是不

领域），人类感知到自动代理的目标（例如提高性能）与

可避免的。尽管智能代理应该改善人类体验（或使其更

有效率），但从人的角度来看，很难把握明确或隐含嵌入其相关风险（例如对人类安全、动物福利或环境质量的

到代理行为中的伦理价值。这就是众所周知的对齐问题，影响）之间的不相容性。

本它指的是设计与人类价值观、目标和偏好相一致的人工在伦理学中，不相称的概念广为人知(Andersson

译智能系统的挑战。这个问题尤其具有挑战性，因为大多andHerlitz2022)，指的是某些价值或利益无法客观比

中数人类伦理考量涉及的是不可公度的（即不可测量和/或较或衡量。这意味着我们无法建立一个共同的尺度来评

无法比较）的价值观和标准。例如，考虑一个为癌症患者估不同的选项或价值。例如，如何评估对健康和经济福

1开具治疗方案的医疗代理。它如何才能考虑到（并衡量）祉都有影响的行为后果？

v像人的生命价值与治疗成本这样不可比较的因素？现在，1

3不相称性与伦理多元主义的概念相关，这表明多

7只有当我们定义了一个可以定义和使用度量的空间时，个标准都很重要且不能被简化为单一的价值尺度。这

6人类价值观与人工价值观之间的对齐才有可能实现。本

7文提议将传统的Anything2vec方法扩展到伦理学领域，意味着我们常常要在对我们来说重要的不同价值观之

0.在许多类似且难以量化领域的应用中（从自然语言处理间做出艰难的选择。自动分类（自动代理的基本能力之

8到推荐系统和图分析），该方法取得了成功。一）中一个广为人知的例子是假阳性和假阴性的成本不

0

5本文提出了一种将自动代理决策（或控制律）策略映射具备可比性。

2到多变量向量表示的方法，该方法可用于比较和评估与存在不同的方法来处理伦理学中的不可通约性，包

:

2

v人类价值观的一致性。其理由是，如果一个自动代理实括后果主义，它旨在评估行为的后果并选择最大化

i

x施了某种决策策略，那么这种策略相对于某个损失函数整体福祉的选项，以及义务论，它专注于道德规则和责

r而言是最优的。同时，如果人类接受遵循代理策略，则任，并基于道德原则确定什么是正确或错误的。如果传

a

这隐含地意味着这种代理策略也相对于人类标准的加权统的AI致力于寻找使自动代理（如机器人）与人类情

和是最优的。通过做出这样的假设，可以恢复一些关于感相一