2025年信息系统安全专家人工智能安全开发与运维概述专题试卷及解析.pdfVIP

2025年信息系统安全专家人工智能安全开发与运维概述专题试卷及解析1

2025年信息系统安全专家人工智能安全开发与运维概述专

题试卷及解析

2025年信息系统安全专家人工智能安全开发与运维概述专题试卷及解析

第一部分：单项选择题（共10题，每题2分）

1、在人工智能安全开发中，以下哪项技术主要用于防止模型被对抗性样本攻击？

A、数据加密

B、对抗训练

C、访问控制

D、日志审计

【答案】B

【解析】正确答案是B。对抗训练是一种通过在训练集中加入对抗性样本来增强模

型鲁棒性的技术，能有效防止模型被对抗性样本攻击。A选项数据加密主要用于保护数

据传输和存储安全，与模型抗攻击能力无关；C选项访问控制是身份认证和权限管理机

制，不涉及模型本身的防御；D选项日志审计用于事后追溯，无法主动防御攻击。知识

点：AI模型安全防御技术。易错点：混淆数据安全与模型安全的概念。

2、以下哪项属于AI系统运维阶段特有的安全风险？

A、SQL注入

B、模型漂移

C、跨站脚本攻击

D、拒绝服务攻击

【答案】B

【解析】正确答案是B。模型漂移是指AI模型在生产环境中因数据分布变化导致

性能下降的现象，是AI运维特有的风险。A、C、D选项都是传统Web应用安全风险，

非AI系统特有。知识点：AI运维安全风险。易错点：忽视AI系统与传统系统的风险

差异。

3、在联邦学习中，以下哪项措施最能保护参与方的数据隐私？

A、差分隐私

B、输入验证

C、防火墙配置

D、代码混淆

【答案】A

【解析】正确答案是A。差分隐私通过添加噪声保护个体数据，是联邦学习中常用

的隐私保护技术。B选项输入验证是传统安全措施；C选项防火墙保护网络边界；D选

2025年信息系统安全专家人工智能安全开发与运维概述专题试卷及解析2

项代码混淆保护知识产权，均无法直接保护数据隐私。知识点：联邦学习隐私保护。易

错点：混淆隐私保护与网络安全的概念。

4、以下哪项是AI模型供应链安全的核心关注点？

A、模型压缩效率

B、第三方模型库的漏洞

C、推理速度优化

D、数据标注成本

【答案】B

【解析】正确答案是B。模型供应链安全重点关注第三方模型库、预训练模型等可

能存在的恶意代码或漏洞。A、C选项是性能优化问题；D选项是成本问题，均不属于

安全范畴。知识点：AI供应链安全。易错点：将性能问题与安全问题混淆。

5、在AI安全开发中，以下哪项属于”安全左移”实践？

A、上线后渗透测试

B、开发阶段威胁建模

C、运维阶段应急响应

D、部署阶段漏洞扫描

【答案】B

【解析】正确答案是B。“安全左移”指在开发早期介入安全措施，威胁建模是典型实

践。A、C、D选项都是后期安全活动。知识点：DevSecOps理念。易错点：不理解”左

移”的时间维度含义。

6、以下哪项技术最适用于检测AI模型的公平性偏差？

A、混淆矩阵分析

B、SHAP值解释

C、ROC曲线评估

D、统计奇偶性检验

【答案】D

【解析】正确答案是D。统计奇偶性检验是评估模型公平性的经典方法，通过比较

不同群体的预测结果判断是否存在偏差。A、C选项是模型性能评估指标；B选项是可

解释性技术，不直接评估公平性。知识点：AI伦理与公平性。易错点：混淆性能评估

与公平性评估。

7、在AI系统安全运维中，以下哪项指标最能反映模型的持续可靠性？

A、训练准确率

B、推理延迟

C、预测置信度分布

D、参数量大小

2025年信息系统安全专家人工智能安全开发与运维概述专题试卷及解析3

【答案】C

【解析】正确答案是C。预测置信度分布变化能反映模型是否出现异常或漂移，是

运维阶段的关键监控指标。A选项是训练阶段指标；B、D选项是性