关于神经网络维护支持的调查-计算机科学-神经网络-自动化工具.pdfVIP

关于神经网络维护支持的调查

12

FatemaTuzZohraandBrittanyJohnson

1DepartmentofComputerScience,GeorgeMasonUniversity

2DepartmentofComputerScience,GeorgeMasonUniversity

摘要

本随着神经网络增强我们日常生活潜力的增长，通过有效的测试、调试和维护来确保其质量至

译关重要。尤其当我们认识到这些技术可能带来的负面影响时更是如此。传统的软件工程方法，如

中测试和调试，在维持软件质量方面已被证明是有效的；然而，它们在维护神经网络方面显示出

显著的研究与实践差距。特别是，目前从业者如何应对理解并缓解神经网络中的不良行为这一

1

v挑战的理解有限。在我们的持续研究中，我们通过初步研究涉及的访谈和支持调查回复来整理

5从业者的见解，探索维持神经网络的当前研究和实践状态。到目前为止，我们的发现表明现有

4

2工具主要集中在构建和训练模型上。虽然这些工具可能有益，但它们往往未能支持从业者理解

5并解决意外模型行为的根本原因。通过评估当前程序并识别传统方法的局限性，我们的研究旨

0

.在从开发者角度出发，指出现行做法不足之处，并强调改进神经网络维护支持的机会。

7

0

5关键词：维护、调试、测试、神经网络、自动化工具

2

:

v

i

x

r1介绍和动机

a

神经网络由于其复杂的结构和从大量数据中分析及获取知识的能力，影响了我们日常生活的各

个方面Dreyfus[2005]。它们的应用涵盖了众多领域，包括计算机视觉Khanetal.[2018]、自然语言

处理Goldberg[2016]、医疗行业Shahidetal.[2019]和自动驾驶汽车的发展Chenetal.[2021]。神

经网络在重要领域的日益采用凸显了其对工业及日常生活的重要影响。尽管这些网络提供了诸多优

势，但即使是微小的失败也可能产生严重的后果，给人类安全带来重大风险Gibbs[2017],Siddique

etal.[2024]。

1

将神经网络集成到软件系统中需要像维护其他系统组件一样来维护它。软件维护确保了传统

软件系统的可靠性和适应性，但维持神经网络则涉及额外的复杂性。更具体地说，识别或修复神经

网络中的任何意外行为带来了独特的挑战，这些挑战与传统的软件大不相同，因为它们具有数据驱

动的特性RehmanandSrinivasan[2023]。

1/what-is/neural-network/

1

考虑一名机器学习工程师，亚历克斯。他们的团队依赖一个深度学习模型来进行文档的自动化

2

分类，而亚历克斯负责维护该模型随时间的表现。亚历克斯设置了TensorBoard和Weights

34

Biases(WB)来跟踪训练指标。当模型准确率下降时，他们使用SHAP进行解释性分析以及

5

DeepChecks进行模型验证来调查问题。这些工具突显了潜在的问题——数据漂移、特征重要性

的不一致性和不稳定嵌入——但它们并没有给亚历