迈向透明的伦理人工智能：可信机器人系统的路线图.pdfVIP

迈向透明的伦理人工智能：可信机器人系统的路线图

12

AhmadFarooq*andKamranIqbal

Abstract—随着人工智能（AI）和机器人技术越来越渗透到道德原则[3],[4]。然而，当前关于机器人伦理人工智

社会中，确保这些系统的伦理行为变得至关重要。本文认为，在能的方法往往缺乏足够的透明度，从而创建了一个不

人工智能决策过程中的透明度是开发值得信赖且符合伦理的机

透明的“黑箱”，这阻碍了我们验证伦理合规性并解决

器人系统的基础。我们探讨了透明度如何促进问责制、实现知

情同意，并支持调试道德算法。文章概述了在实施透明度方面潜在偏见或错误的能力。

的技术、伦理和实践挑战，并提出了增强它的新方法，包括标这种人工智能决策过程中的不透明性提出了重大

准化指标、可解释的人工智能技术和用户友好的界面。本文介挑战。它阻碍了我们确保问责制、从用户和利益相关者

绍了一个框架，该框架将机器人系统中的技术实现与伦理考量

联系起来，重点关注在动态现实世界背景下实现透明度的具体那里获得知情同意以及有效调试和改进伦理算法[5],

本挑战。我们分析了优先考虑透明度如何影响公众信任、监管政[6]的能力。此外，缺乏透明度可能会侵蚀公众对机器

译策以及未来研究的途径。通过将透明度定位为道德人工智能系人系统的信任，可能减缓其采用并限制其社会收益。

统设计的基本元素，我们的目标是为负责任的人工智能和机器

本文认为透明性应被提升为开发伦理机器人系统

中人领域的持续讨论做出贡献，并为这一关键领域未来的进步指

1明方向。的基本原则。通过揭示由AI驱动的机器人的决策过

v索引术语：伦理人工智能，透明度，可解释人工智能，机程，我们可以建立信任，促进有意义的人类监督，并

6

4器人系统，人机交互最终创建更加符合伦理规范的机器人系统[7]。尽管承

8

认在实现透明性方面存在技术、伦理和实践上的障碍，

5I.介绍

0.本文提出了创新的方法来增强透明性，并讨论了这种

8人工智能（AI）和机器人技术的迅速进步带来了关注对未来机器人领域中的伦理AI产生的深远影响。

0具备复杂决策能力的自主系统时代。人工智能，包括

5本文的其余部分结构如下：第二节介绍了人工智

2大型语言模型和自主系统的快速发展，突显了需要透

:能系统中透明度的重要性。第三节讨论了实施透明度

v明且符合伦理的人工智能决策制定。这些机器人系统

i所面临的挑战，而第四节则提出了提高伦理人工智能

x现在已成为日常生活中许多方面的组成部分——从医

r决策透明度的方法。第五节考察了优先考虑透明度的

a疗保健和交通到制造和安全——从而引发了关于其决

影响，并概述了未来的研究方向。最后，第六节总结

策过程的重要伦理问题[1],[2]。

了论文，并呼吁机器人和人工智能社区采取行动。

实现人工智能的透明度不