探索标签偏见与子组大小和可分离性之间的相互作 用：一项乳房密度分类的案例研究-计算机科学-人工智能-医疗 AI.pdfVIP

探索标签偏见与子组大小和可分离性之间的相互作

用：一项乳房密度分类的案例研究

EmmaA.M.Stanley,RaghavMehta,MélanieRoschewitz,NilsD.

Forkert,andBenGlocker

DepartmentofBiomedicalEngineering,UniversityofCalgary,Canada

DepartmentofRadiology,UniversityofCalgary,Canada

HotchkissBrainInstitute,UniversityofCalgary,Canada

AlbertaChildren’sHospitalResearchInstitute,UniversityofCalgary,Canada

本DepartmentofComputing,ImperialCollegeLondon,UK

emma.stanley@ucalgary.ca

译

中

1摘要系统性误标记影响特定子群体（即，标签偏差）在医学影像数据集

v中的问题，是关于医疗AI系统公平性的研究较少的一个议题。在这项工

6

9作中，我们调查了受标签偏差影响的子群体的大小和可分离性如何影响深

9度学习模型所学特征及其性能。因此，我们使用EMoryBrEast成像数据

7集（EMBED）对二元组织密度分类进行了深度学习模型训练，在该数据

1

.集中，标签偏差影响了基于影像制造商的可分离子群体或不可分离的“伪

7

0子群体”。我们发现，模拟的子群体标签偏差导致模型所学特征表示发生了

5显著的变化。重要的是，这些在特征空间内的变化取决于受标签偏差影响

2的子群体的相对大小和可分离性。我们也观察到，根据验证集是否使用无

:

v偏标记来定义分类阈值，子群体性能存在明显的差异。例如，当标签偏差

i

x影响大多数可分离子群体时，如果验证集具有无偏标记，则该子群体的真

r

a实阳性率从0.898降至0.518，而当验证集带有偏见标记时。我们的工作为

理解标签偏差对医学影像AI中子群体公平性的后果做出了重要贡献。

Keywords:标签偏差·乳腺X线摄影·公平性。

1介绍

在训练用于监督分类任务的人工智能（AI）模型时，一个隐含的假设是

所提供的训练数据集标签代表了真实情况。然而，大型数据集的标注对于有

效训练深度模型来说成本高昂，且由于人为错误、主观或模糊的标注任务或

WorkperformedasavisitingstudentatImperialCollegeLondon.

2E