视觉Transformer在低级视觉领域的研究综述.pdfVIP

ComputerEngineeringandApplications计算机工程与应用2024，60（4）39

视觉Transformer在低级视觉领域的研究综述

1,21,2,3114

朱凯，李理，张彤，江晟，别一鸣

1.长春理工大学物理学院，长春130022

2.长春理工大学中山研究院光电/生物纳米检测与制造中心，广东中山528437

3.长春理工大学电子信息工程学院，长春130022

4.吉林大学交通学院，长春130012

摘要：Transformer是一种革命性的神经网络模型架构，最初为自然语言处理而设计，但其由于卓越的性能，在计算

机视觉领域获得了广泛的应用。虽然关于Transformer在自然语言处理领域的应用有大量的研究和文献，但针对低

级视觉任务的综述相对匮乏。简要介绍了Transformer的原理并分析归纳了几种变体。在低级视觉任务的应用方

面，将重点放在图像恢复、图像增强和图像生成这三个关键领域。通过详细分析不同模型在这些任务中的表现，探

讨了它们在常用数据集上的性能差异。对Transformer在低级视觉领域的发展趋势进行了总结和展望，提出了未来

的研究方向，以进一步推动Transformer在低级视觉任务中的创新和发展。这一领域的迅猛发展将为计算机视觉和

图像处理领域带来更多的突破，为实际应用提供更加强大和高效的解决方案。

关键词：Transformer；深度学习；注意力机制；计算机视觉；低级视觉任务

文献标志码：A中图分类号：TP183;TP391doi：10.3778/j.issn.1002-8331.2304-0139

SurveyofVisionTransformerinLow-LevelComputerVision

1,21,2,3114

ZHUKai,LILi,ZHANGTong,JIANGSheng,BIEYiming

1.SchoolofPhysics,ChangchunUniversityofScienceandTechnology,Changchun130022,China

2.CentreforOpto/Bio-NanoMeasurementandManufacturing,ZhongshanInstituteofChangchunUniversityofScience

andTechnology,Zhongshan,Guangdong528437,China

3.SchoolofElectronicalandInformationEngineering,ChangchunUniversityofScienceandTechnology,Changchun

130022,China

4.TransportationCollege,JilinUniversity,Changchun130012,China

Abstract：Transformerisarevolutionaryneuralnetworkarchitectureinitiallydesignedfornaturallanguageprocessing.

However,itsoutstandingperformanceandversatilityhaveledtowidespreadapplicationsinthefieldofcomputervision.

WhilethereisawealthofresearchandliteratureonTransformerapplicationsinnaturallanguageprocessing,therere-

mainsarelativescarcityofspecializedreviewsfocusingonlow-levelvisualtasks.Inlightofthis,thispaper