多智能无人系统协同中的人工智能安全探索.pdfVIP

多智能无人系统协同中的人工智能安全探索

目录

1.编者按2

2.前言2

3.统筹推进多无人系统协同赋能用与风险防控意义重大3

3.1.多无人系统协同研究持续高速发展的重要抓手3

3.2.不断增强我国军事实力的有效途径3

3.3.提升我国社会安全保障水平的关键前提3

3.4.实现未来高度智能化社会建设的必然要求4

4.多无人系统协同安全发展概况4

5.多无人系统协同面临的挑战5

5.1.内生安全6

5.1.1.通信与交互安全6

5.1.2.协同决策与集群演化算法安全7

5.1.3.系统架构安全7

5.2.衍生安全8

5.2.1.公共安全8

5.2.2.伦理安全8

5.2.3.军事安全9

6.智能无人系统安全威胁分析9

7.智能无人系统安全防御体系12

7.1.前述12

7.2.用安全13

7.3.样本安全13

7.4.无人安全防护13

7.5.智能无人系统安全治理软件13

7.6.智能安全14

7.7.智能无人安全验证平台14

8.智能无人系统安全防御关键技术14

8.1.全生命周期安全评估体系构建技术14

8.2.智能框架安全防护技术15

8.3.高对抗能力的模型投毒检测防护技术15

8.4.高泛化能力对抗样本安全防护技术15

第1页共18页

9.“四位一体”全面推进多无人系统协同安全发展16

9.1.推进无人系统的安全生态建设16

9.2.推进无人系统的先进技术建设16

9.3.推进无人系统的法律规范建设17

9.4.推进无人系统的社会伦理建设17

10.结语18

L编者按

多无人系统协同可以将在空间上分布的无人系统有机连接起来，实现多系

统在时间、空间、模式、任务等多维度上的有效协同，最终形成目标探测、跟

踪识别、智能决策、自主控制和效能评估的完整链条。多无人系统协同在给社

会创造价值的过程中，也会带来着诸多安全隐患，特别是在军事作战，产业升

级、政府监管、社会治理以及伦理等多个方面将给国家安全带来新的挑战。

本文阐述了统筹推进多无人系统协同赋能用与风险防控的重大意义，提

出了“四位一体”全面推进多无人系统协同安全发展的战略思路，探索了多无

人系统协同在内生安全和衍生安全层面潜在的挑战与对思路。就智能无人系

统安全，文章建议，构建国家级无人系统验证平台，推动人才队伍建设；逐步

深化无人系统产业“放管服”，发展新•代人工智能安全生态；充分发挥多无

人系统协同的优势，赋能保障和改善民生，服构建人类命运共同体。