Prompt4Trust：一个用于多模态大型语言模型临床对齐置信度校准的强化学习提示增强框架-计算机科学-多模态大型语言模型-医疗保健.pdfVIP

Prompt4Trust：一个用于多模态

大型语言模型临床对齐置信度校准的强化学习提示增强框架

AnitaKriz*ElizabethLauraJanes*XingShen*†TalArbel

CentreforIntelligentMachines,McGillUniversityMila–QuebecAIInstitute

{anita.kriz,elizabeth.janes,xing.shen}@mail.mcgill.catal.arbel@mcgill.ca

*Equalcontribution

Abstract1.介绍

本

多模态大型语言模型（MLLMs）展现了处理复杂

译多模态大型语言模型（MLLMs）在医疗保健应用中具有

且多样化的医疗信息的卓越能力[15,22,25]。与传统的

中巨大潜力。然而，其在安全关键环境中的部署受到了两

医学成像AI工具不同，MLLMs结合了分析能力和可

3个主要限制的阻碍：(i)对提示设计敏感，以及(ii)倾向

v于以高度信心生成不正确的响应。由于临床医生可能解释性对话，提供直观和互动的决策支持，能够无缝整

9合到现有的临床工作流程中。尽管将MLLMs集成到实

7会依赖模型表达的信心来判断预测的可靠性，因此尤

2其重要的是当模型表示高信心时，它也必须具有高准确际医疗服务中的进程仍处于初级阶段，但它们的潜力

9日益明显：从诊断放射扫描中的病理特征，到识别并解

0性。我们介绍了信任提示，这是第一个针对MLLMs信

.释显微镜图像中的组织病理学发现，MLLMs正准备彻

7心校准的提示增强强化学习（RL）框架。通过训练一个

0底改变临床实践。

5轻量级语言模型生成上下文感知辅助提示来引导下游

2任务中的MLLM生成响应，在其中表达的信心更准确尽管具备令人印象深刻的能力，MLLM在部署到

:

v地反映了预测精度。与传统的校准技术不同，可信提示医疗保健等关键安全设置时仍面临两大挑战。

i

x特别优先考虑了对于安全和可信赖临床决策至关重要首先，MLLM的输出质量高度依赖于提示设计，提

r

a的校准方面。除了由这种以临床为导向的校准目标驱示中的细微语义变化会导致响应出现显著差异。这使

动的改进之外，我们提出的方法还提高了任务准确性，得提示工程成为一个重要但耗时且不简单的步骤[14,

在由多种医疗成像模式的多项选择题组成的PMC-VQA35]。

基准测试中达到了最先进的医学视觉问答（VQA）性其次，众所周知，LLMs会产生幻觉、传播偏见并

能。此外，我们的框架通过使用一个小规模下游任务生成有害内容[8,10]，常常将其不准确的输出作为事

MLLM训练在实验中展示了对更大规模MLLMs的零样实呈现。这种固有的过度自信在临床环境中尤为成问

本泛化能力，表明了无需相关计算成本进行可扩展校题，因为临床医生可能会依赖模型声明的信心来判断