可解释 AI 在 2D/3D 配准质量协作评估中的应用-计算机科学-机器学习-深度学习-人机交互.pdfVIP

可解释AI在2D/3D配准质量协作评估中的应用

SueMinCho,AlexanderDo,RussellH.Taylor,andMathiasUnberath

JohnsHopkinsUniversity,BaltimoreMD,USA

scho72@

摘要随着手术融入数字化转型——整合复杂成像、先进算法和机器人技

术以支持和自动化复杂的子任务——人类对系统正确性的判断仍然是确保

患者安全的重要保障。这一转变引入了新的“操作员类型”角色，这些角

本色负责验证复杂的算法输出，特别是在程序的关键阶段，如钻孔或植入物

译放置前的中间检查。一个典型的例子是2D/3D配准，这是基于图像手术导

航的关键使能技术，它将术中2D图像与术前3D数据对齐。尽管配准算法

中已经取得了显著的进步，但它们有时仍会产生不准确的结果。由于即使是

1小范围的错位也可能导致再次手术或不可逆的外科错误，因此需要强有力

v的品质保证措施。目前发现仅凭基于可视化的策略不足以使人类可靠地检

7

9测2D/3D配准错位。为此，我们提出了一种专门针对2D/3D配准质量验

5证的人工智能（AI）框架，并辅以解释性特征来澄清模型的决策过程。我

7

1们的可解释人工智能（XAI）方法旨在通过提供第二意见及其背后的理由

.来增强人类操作员的知情决策。通过对算法中心和人机中心的评估，我们

7

0系统地比较了四种情况：仅AI、仅人类、人类–AI以及人类–XAI。我

5们的研究发现显示，尽管解释性特征适度提高了用户信任度并增加了覆盖

2

:AI错误的意愿，但它们在整体性能上并未超过独立的AI。然而，未来的

v

i工作扩展算法设计和人机-XAI合作元素有望为2D/3D配准提供更强大的

x质量保证。

r

a

Keywords:可信自主·机器学习·深度学习·二维/三维配准·图

像引导手术·可解释性·以人为本的AI·人机交互·人类与计算机

交互.

1介绍

外科手术正在经历一场深刻的数字化转型，从仅由专家执行的程序演变

为通过先进的成像和高级算法引导，并借助或自动化机器人技术辅助。然

而，即使技术重塑了现代手术的交付方式，人类判断仍然是确保系统正确运

行不可或缺的一部分，从而保障患者安全[13]。新兴的人本保障理念强调需

2S.Choetal.

要将操作员融入复杂的、技术支持的工作流程中[3]。尽管如此，这些操作

员的确切角色和责任仍然远未明确界定[5]。随着外科平台变得越来越自动

化，新的任务——如验证高级算法输出等——越来越多地落在不具备传统临

床头衔的工作人员或专家身上。因此，理解这些“操作员”如何感知、解释

并采取行动处理算法信息对于确保强大的安全保障至关重要。

这种对人类监督的需求在追求半自主或完全自主的微创手