联邦学习中针对后门攻击的检测与防御方案.pdfVIP

JournalofComputerApplicationsISSN1001⁃90812025⁃08⁃10

计算机应用,2025,45(8):2399-2408CODENJYIIDUhttp://www.joca.cn

文章编号：1001-9081（2025）08-2399-10DOI:10.11772/j.issn.1001-9081.2024081120

联邦学习中针对后门攻击的检测与防御方案

1，21，2，3*1，21，21，2

苏锦涛，葛丽娜，肖礼广，邹经，王哲

（1.广西民族大学人工智能学院，南宁530006；2.广西民族大学网络通信工程重点实验室，南宁530006；

3.广西混杂计算与集成电路设计分析重点实验室（广西民族大学），南宁530006）

（∗通信作者电子邮qq.com）

摘要：针对联邦学习（FL）系统中普遍存在的恶意后门攻击行为，以及现有防御方案难以在隐私保护与模型训

练的高准确率之间取得平衡的难题，探索FL中的后门攻击及其防御方法，提出一种名为GKFL（Generative

Knowledge-basedFederatedLearning）的安全高效集成方案用于检测后门攻击并修复受损模型。该方案无需访问参与

方的原始隐私数据，通过中央服务器生成检测数据检测联邦学习中的聚合模型是否遭受后门入侵，并采用知识蒸馏

技术恢复受损模型，从而确保模型的完整性和准确性。在数据集MNIST和Fashion-MNIST上的实验结果表明，GKFL

的总体性能均优于经典方案FoolsGold、GeoMed和RFA（RobustFederatedAggregation）；GKFL比FoolsGold更能保护数

据的隐私。可见，GKFL方案拥有检测后门攻击及修复受损模型的能力，并在模型中毒准确率和模型主任务准确率上

明显优于对比方案。

关键词：联邦学习；后门攻击；数据安全；隐私保护；人工智能安全

中图分类号：TP393文献标志码：A

Detectionanddefenseschemeforbackdoorattacksinfederatedlearning

SUJintao1，2，GELina1，2，3*，XIAOLiguang1，2，ZOUJing1，2，WANGZhe1，2

（1.SchoolofArtificialIntelligence，GuangxiMinzuUniversity，NanningGuangxi530006，China；

2.KeyLaboratoryofNetworkCommunicationEngineering，GuangxiMinzuUniversity，NanningGuangxi530006，China；

3.GuangxiKeyLaboratoryofHybridComputationandICDesignAnalysis（GuangxiMinzuUniversity），NanningGuangxi530006，China）

Abstract:Aimingatthecommonlyexis