2025年信息系统安全专家人工智能安全概述与核心概念专题试卷及解析.pdf

2025年信息系统安全专家人工智能安全概述与核心概念专题试卷及解析1

2025年信息系统安全专家人工智能安全概述与核心概念专

题试卷及解析

2025年信息系统安全专家人工智能安全概述与核心概念专题试卷及解析

第一部分：单项选择题（共10题，每题2分）

1、在人工智能安全领域，“对抗性攻击”主要指的是什么？

A、对AI系统硬件的物理破坏

B、通过精心构造的输入数据欺骗AI模型

C、窃取训练AI模型的数据集

D、对AI系统进行DDoS攻击

【答案】B

【解析】正确答案是B。对抗性攻击是指通过在输入数据中添加微小扰动，使AI模

型产生错误输出的攻击方式。A选项描述的是物理安全攻击，C选项是数据泄露，D选

项是网络攻击，都不符合对抗性攻击的定义。知识点：AI安全基础概念。易错点：容

易将对抗性攻击与其他类型的攻击混淆。

2、联邦学习的主要安全优势是什么？

A、完全消除数据泄露风险

B、允许模型训练而不共享原始数据

C、提高模型训练速度

D、减少模型参数数量

【答案】B

【解析】正确答案是B。联邦学习的核心优势是在保护数据隐私的前提下进行分布

式模型训练，原始数据保留在本地。A选项错误，因为联邦学习仍可能通过梯度反演等

手段泄露信息。C和D选项与安全无关。知识点：隐私保护技术。易错点：误以为联

邦学习能提供绝对的安全保障。

3、在AI模型安全中，“模型反演攻击”的目标是？

A、篡改模型的预测结果

B、从模型输出中推断训练数据特征

C、降低模型的准确率

D、增加模型的训练时间

【答案】B

【解析】正确答案是B。模型反演攻击旨在通过分析模型的输出，重建或推断训练

数据的敏感信息。A和C描述的是对抗性攻击，D与安全无关。知识点：AI隐私攻击。

易错点：容易与模型提取攻击混淆。

4、差分隐私技术主要解决什么问题？

2025年信息系统安全专家人工智能安全概述与核心概念专题试卷及解析2

A、防止对抗性样本攻击

B、保护个体数据在统计分析中的隐私

C、提高模型的泛化能力

D、加速模型训练过程

【答案】B

【解析】正确答案是B。差分隐私通过添加噪声来保护数据集中个体的隐私信息，同

时保持统计结果的可用性。A、C、D选项都不是差分隐私的主要目标。知识点：隐私

保护技术。易错点：误以为差分隐私能解决所有AI安全问题。

5、AI供应链安全主要关注的是？

A、最终用户的操作安全

B、AI系统开发过程中的依赖和组件安全

C、AI模型的部署环境安全

D、AI系统的网络通信安全

【答案】B

【解析】正确答案是B。AI供应链安全关注从数据采集、模型训练到部署的全生命

周期中，第三方组件和依赖的安全性。A、C、D虽然重要，但不属于供应链安全的范

畴。知识点：AI系统安全。易错点：容易将供应链安全与其他安全领域混淆。

6、在AI安全中，“数据投毒攻击”的主要目的是？

A、窃取模型参数

B、通过污染训练数据降低模型性能

C、加速模型训练

D、减少模型存储需求

【答案】B

【解析】正确答案是B。数据投毒攻击通过向训练数据中注入恶意样本，导致模型

在特定条件下表现异常。A、C、D与攻击目的无关。知识点：AI数据安全。易错点：容

易将数据投毒与对抗性攻击混淆。

7、AI模型的可解释性在安全中的作用主要是？

A、提高模型的准确率

B、帮助理解和验证模型决策过程

C、减少模型的训练时间

D、降低模型的存储需求

【答案】B

【解析】正确答案是B。可解释性技术帮助理解模型如何做出决策，从而识别潜在

的安全风险和偏见。A、C、D与可解释性的主要作用无关。知识点：AI可信性。易错

点：误以为可解释性直接提升模型性能。

2025年信息系统安全专家人工智能安全概述与核心概念专题试卷及解析