MLRU++: 带注意力机制的多尺度轻量级残差 UNETR++用于高效 3D 医学图像分割-计算机科学-深度学习-神经网络-高性能.pdf

MLRU++:带注意力机制的多尺度轻量级残差UNETR++用于高效3D医学图

像分割

NandKumarYadav,RodrigueRizk,WilliumWCChen,KCSantosh

AIResarchLab,DepartmentofComputerScience

BiomedicalTranslationalSciences,SanfordSchoolofMedicine

UniversityOfSouthDakota,Vermillion,SD57069USA.

{nand.yadav,rodrigue.rizk@,william.chen,kc.santosh}@

本Abstract割由于医学成像数据的高维性和CT和MRI等不同模

译态的解剖变异性，仍然是计算密集型的[9]。传统的架

中准确而高效的医学图像分割至关重要，但由于解剖构，包括3DU-Net及其变体，已经证明了强大的性

1变异性和对体积数据的高计算需求，这是一项具有能[5,21]，但通常受到高内存消耗和实时应用效率低

v挑战性的任务。最近的混合CNN-Transformer架构取的阻碍[14]。类似地，基于transformer的模型，包括

2

2得了最先进的结果，但增加了显著的复杂性。在本文Unetr[9]，利用长程依赖关系，但会带来大量的计算开

1中，我们提出MLRU++，一种多尺度轻量级残差UN-销，从而阻碍了它们在资源受限环境中的部署[8]。

6

1.ETR++架构，旨在平衡分割准确性和计算效率。它为了解决这些限制，我们引入了MLRU++，这是

7引入了两个关键创新：轻量级通道和瓶颈注意力模块一种多尺度轻量级残差UNETR++架构，结合了多尺

0

5（LCBAM），该模块通过最小开销增强上下文特征编度学习、轻量级残差设计和注意力机制的优点，提供了

2

2码，并且解码器中的多尺度瓶颈块（MB）通过多分准确且高效的三维分割。MLRU++的核心是轻量化卷

:

v辨率特征聚合捕获细粒度细节。在四个公开的基准数积块注意力模块（LCBAM），它用一种精简的替代方

i

x据集（Synapse，BTCV，ACDC和DecathlonLung）案取代了传统的注意力方案。虽然标准的CBAM[28]

r

a上的实验表明，MLRU++实现了最先进的性能，平均通过应用顺序通道和空间注意力有效提高了特征质量，

Dice分数分别为87.57%（Synapse），93.00%（ACDC）但由于多层感知器和卷积操作，它仍然带来了非微不

和81.12%（Lung）。与现有领先模型相比，MLRU++足道的开销。相比之下，LCBAM在显著减少参数数量

在Synapse和ACDC上分别提高了5.38%和2.12%的的同时保留了双重注意力的核心优点，使其非常适合

Dice分数，同时显著减少了参数数量和计算成本。对处理高分辨率的三维医学数据。通过这种多尺度特征

2

LCBAM和MB的消融研究进一步证实了所提出架构融合与高效注意力的结合，MLRU++在各种医学数据

组件的有效性。结果表明，MLRU++为三维医学图像集上实现了强大的分割性能。借助轻量级通道-空间注

分