通过信息检索增强基于规则的解释的可解释性-计算机科学-数据驱动的人工智能-可解释人工智能.pdf

通过信息检索增强基于规则的解释的可解释性

AlessandroUmbrico,LucaCoraci,FrancescaFracasso,SilviaGola,GabriellaCortellessa

CNR-InstituteofCognitiveSciencesandTechnologies

GuidoBologna

UniversityofAppliedSciencesandTechnologies

2025年7月18日

本

译ABSTRACT

中数据驱动的人工智能技术缺乏透明度限制了其在医疗保健决策过程中的可解释性和接受度。

1我们提出了一种基于归因的方法，以提高特定背景下可解释人工智能预测的可解释性，即乳

v

6腺癌淋巴结放射治疗后上肢淋巴水肿风险评估。所提方法使用信息检索技术的标准指标对基

7于规则的预测模型中的属性进行统计分析。该分析计算了每个属性与预测的相关性，并为用

9户提供有关风险因素影响的可解释信息。一项用户研究的结果将所提出的方法生成的输出与

5

0可解释人工智能模型的原始输出进行了比较，表明在预测淋巴水肿风险的背景下，具有更高

.

7的可解释性和实用性。

0

5

2

:1介绍

v

i

x

r人工智能（AI）技术展现了令人印象深刻的计算能力，可以对决策过程产生积极影响。尽管有效，但基于数

a

据驱动的AI系统的黑箱性质阻碍了它们在现实世界中的扩散和接受，特别是在高风险决策领域如医疗保健

中。在临床实践中采用AI可以提供潜在的优势[1]，例如增强临床医生在诊断阶段的工作，或提供有价值的

个性化治疗建议。然而，仍然存在一些问题，阻碍了这些系统在常规实践中的定期采用。

缺乏透明度是主要障碍之一[2]。由于临床医生需要对其细致的角色有信心，AI系统应该是值得信赖的，可

解释的人工智能（XAI）可以支持此类系统的开发[3]。可解释性与理解密切相关，这涉及到对所观察到的现

象形成一个心理模型。解释或诠释可以被描述为以清晰易懂的方式呈现观察现象背后的原因的过程，使用语

言描述来概述其逻辑和因果关系[4,5]。考虑到健康领域和临床文献，有人认为临床医生可能会对来自黑盒预

测模型的建议感到不自在。AI结果应该是可解释的，以便临床医生能够理解背后的（隐藏）推理理由[6]。临

床医生将可解释性视为在模型预测背景下证明与健康相关的决策过程的一种手段[7]。

在XAI中，可解释性旨在对如何以及为什么AI模型生成预测提供洞察力，同时保持高水平的预测性能。可

解释AI方法的价值仍有待实践证明[3]，并且关于“可解释性”或“可解释度”的定义尚未达成最终共识。

工作[8]提出了从不同解释需求视角区分这两个术语的区别。可解释性向目标受众提供洞察力以满足其需求。

可解释度是指所提供洞察能够在多大程度上对目标受众的专业知识有意义[8]。类似的区分在[9]中进行了讨

论，其中将解释理解为来自可解释领域的一系列特征集合，这些特征有助于生成特定示例的决策。相比之下，

解释被定义为将抽象概念映射到人类专家可以感知和理解的领域。

APREPRINT-2025年7月18日

在此前提下，有人认为目前的可解释性方法从用户的角度来看仍然像黑盒一样难以理解，对于非专业人士来

说依旧复杂。它们确实更应该被视为开发人员和审计员分析其模型的工具。尽管在可解释人工智能(XAI)方

面做出了巨大努力，但所提出的解决方案应以其可