基础模型作为皮肤影像分类的类增量学习者-计算机科学-类增量学习-基础模型-皮肤图像分类.pdfVIP

基础模型作为皮肤影像分类的类增量学习者

MohamedElkhayat*,MohamedMahmoud*,

JamilFayyad†,andNourhanBayasi†

CairoUniversity,Giza,Egypt

UniversityofVictoria,Victoria,BC,Canada

UniversityofBritishColumbia,Vancouver,BC,Canada

{Mohammed.Khayyat02,muhammad.mahmoud01}@.eg

本摘要类增量学习（CIL）旨在随着时间的推移学习新类别，同时不忘记先

译前获得的知识。在大型数据集上预训练的基础模型（FM）的出现为CIL提

供了新的机会，通过提供丰富、可迁移的表示。然而，它们在皮肤病增量学

中习中的潜力仍然很大程度上未被探索。在这篇论文中，我们系统地评估了

1在大规模皮肤病变数据集上预训练并冻结的FMs用于皮肤病分类的CIL表

v现。我们提出了一种简单而有效的方法，在该方法中，骨干网络保持冻结，

0

5并对每个任务增量训练一个轻量级MLP。这种设置实现了必威体育精装版的性能，没

0有遗忘现象，优于正则化、回放和架构基础方法。为了进一步探索冻结的

4FMs的能力，我们使用最近邻分类器检查零训练场景，这些分类器基于它

1

.们的嵌入衍生原型。通过广泛的消融研究，我们证明这种基于原型的方法

7

0也可以实现具有竞争力的结果。我们的发现突出了在皮肤病领域中持续学

5习的冻结FMs的优势，并支持其在实际医疗应用中的更广泛采用。我们的

2

:代码和数据集可在这里获得。

v

i

xKeywords:类增量学习·持续学习·基础模型·皮肤图像分类·皮

r

a肤病学

1介绍

现实世界中的临床应用很少提供独立同分布(i.i.d.)数据[15]。在皮肤科

领域，随着时间推移从不同来源收集的数据中可能会逐渐出现新的疾病类别

或成像变化。传统的静态设置训练模型在这种不断变化的条件下往往表现不

佳[16]，当用新数据更新时，在之前学习的任务上的性能会出现急剧下降；

这个问题被称为灾难性遗忘[26,4]。持续学习(CL)旨在通过允许模型在保持

*同等贡献。

†平等监督。

2ElkhayatMahmoudetal.

过去知识的同时学习新信息来解决这一挑战。CL中的几种设置包括类增量

学习（CIL）是最具挑战性的之一。在CIL中，新类别会随着时间引入，模

型必须在无法访问早期任务数据的情况下学习它们，这使得该设置在临床工

作流程中具有相关性，在这些工作中，由于隐私和伦理问题，存储或重播患

者数据往往受到限制。

为了避免在不存储或重播旧患者数据[11]的情况下遗忘，研究人员已

经探索了基于正则化和架构的策略。正则