DiCE-Extended: 机器学习中反事实解释的一种稳健方法-计算机科学-人工智能-机器学习-可解释性.pdf

DiCE-Extended:机器学习中反事实解释的一种稳

健方法

VolkanBAKIR,PolatGOKTAS,andSureyyaOZOGUR-AKYUZ

FacultyofGraduateEducationInstitute,DepartmentofArtificialIntelligence

(Interdisciplinary),BahçeehirUniversity,Turkey

volkan.bakir@.tr

SchoolofComputerScience,UniversityCollegeDublin,Ireland

polat.goktas@ucd.ie

本FacultyofEngineeringandNaturalSciences,DepartmentofMathematics,

译BahçeehirUniversity,Turkey

sureyya.akyuz@.tr

中

2

v

7

2

0

9

1摘要可解释的人工智能（XAI）在医疗、金融和法律等决策关键领域变得

.

4越来越重要。反事实（CF）解释是XAI中的一个重要方法，通过建议对输

0入特征进行最小修改以导致不同的模型结果，为用户提供可行的见解。尽

5

2管取得了显著的进步，现有的CF生成方法往往难以平衡接近性、多样性和

:稳健性，限制了它们在现实世界中的应用。一个广泛采用的框架多样化的

v

i反事实解释（DiCE）强调多样性但缺乏稳健性，使得CF解释对扰动和领

x

r域约束敏感。为了应对这些挑战，我们引入了迪西-扩展版，这是一个增强

a

的CF解释框架，整合多目标优化技术以提高稳健性同时保持可解释性。我

们的方法基于Dice-Sørensen系数引入了一种新的稳健性度量标准，使在

小输入变化下保持稳定成为可能。此外，我们使用加权损失组件（，，

）来平衡接近性、多样性和稳健性，从而改进CF生成。我们在多个ML

后端（Scikit-learn,PyTorch,TensorFlow）上的基准数据集（COMPAS,

LendingClub,德国信用,成人收入）上实证验证了DiCE-Extended。结果

表明，与标准的DiCE生成解释相比，CF的有效性、稳定性和与决策边界

的对齐程度得到了提高。我们的研究结果突出了DiCE-扩展版在为高风

险应用生成更可靠和可解释的反事实方面的能力。未来的工作可以探索自

适应优化技术和特定领域的约束，以进一步提高现实世界场景中的反事实

生成能力。

关键词：反事实解释·机器学习·可解