2025年人工智能安全与伦理考试试题及答案.docxVIP

2025年人工智能安全与伦理考试试题及答案

一、单项选择题（每题2分，共20分。每题只有一个正确答案，请将正确选项的字母填在括号内）

1.在联邦学习框架下，以下哪项措施最能有效降低成员推理攻击（MembershipInferenceAttack）的成功率？

A.增加本地训练轮次

B.采用差分隐私噪声注入

C.提高模型学习率

D.使用更大的批量大小

答案：B

解析：成员推理攻击依赖模型对训练数据的过拟合信号。差分隐私通过向梯度或参数注入校准噪声，模糊了个体样本对参数分布的影响，从而显著降低攻击者区分成员与非成员样本的置信度。实验表明，在ε=1的差分隐私预算下，成员推理攻击的AUC可从0.85降至0.55。

2.欧盟《人工智能法案》将“实时远程生物识别系统”划为高风险类别，其立法逻辑主要基于哪一项伦理原则？

A.可解释性

B.比例性

C.人类尊严

D.数据最小化

答案：C

解析：实时远程生物识别在公共空间对个体进行持续追踪，直接冲击“人是目的而非手段”的康德主义底线，构成对人类尊严的系统性削弱，因此法案第5条原则上禁止，仅允许极狭窄的例外。

3.当使用生成式人工智能辅助医疗影像诊断时，以下哪种做法最符合“问责链”要求？

A.将模型预测结果直接写入病历

B.由放射科医师在报告末尾统一签字

C.记录模型版本、输入数据哈希、预测概率及医师复核意见

D.让系统自动删除中间预测日志以节省存储

答案：C

解析：问责链（AccountabilityChain）要求全程留痕、可追溯。记录模型版本与输入哈希可锁定“谁、何时、用何模型、对何数据”做出决策；保留预测概率与医师复核意见则明确人机责任边界，满足《良好机器学习实践指南》第7.3条。

4.在多智能体强化学习系统中，若出现“策略崩溃”（PolicyCollapse）导致集体行为偏离设计目标，最优先的伦理干预节点是：

A.奖励函数

B.经验回放池

C.环境随机种子

D.网络初始化

答案：A

解析：策略崩溃往往源于奖励函数对局部最优的误激励。从伦理视角看，奖励函数是价值嵌入（ValueEmbedding）的核心载体，其设计偏差会直接放大系统性风险，因此需首先审查奖励塑造（RewardShaping）是否违背初衷。

5.当数据集中某族群样本量不足时，采用“合成少数过采样技术”（SMOTE）可能引发的伦理风险是：

A.模型可解释性下降

B.放大原始空间中的虚假相关性

C.增加计算碳排放

D.违反数据最小化原则

答案：B

解析：SMOTE通过在特征空间插值生成新样本，若原始分布已含偏见（如“黑人面孔—犯罪标签”伪相关），插值会沿着偏见方向扩散，导致模型在合成区域学到更陡峭的决策边界，进一步固化歧视。

6.在“模型卡”（ModelCard）披露模板中，以下哪项信息最能帮助下游用户评估“误用风险”？

A.训练epochs数量

B.预期用途与超出范围用途示例

C.参数总量

D.优化器类型

答案：B

解析：模型卡的核心价值在于情境化透明度。明确“预期用途”与“超出范围用途”可直接警示下游用户将模型用于未经验证场景（如把情绪识别模型用于招聘）的潜在危害，符合IEEE7003《算法偏见治理标准》。

7.若某城市拟部署基于面部微表情的“潜在情绪异常检测”系统，根据伦理影响评估（EIA）框架，首先应：

A.进行公开听证

B.计算模型准确率

C.界定“情绪异常”的操作定义与合法性

D.选择摄像头硬件型号

答案：C

解析：EIA第一步是“问题界定”。若“情绪异常”缺乏医学与法学共识，系统便失去正当性基础，后续无论技术多精准均构成对公民行为自由的不当预设。

8.在“人类反馈强化学习”（RLHF）中，若标注者群体集中于18—30岁都市白领，可能违反的伦理原则是：

A.公平性

B.可验证性

C.可审计性

D.可扩展性

答案：A

解析：反馈信号本身携带标注者的文化视角与价值偏好，样本局限导致模型对齐（Alignment）到单一生活形态，对其他年龄或职业群体形成“代表性伤害”（RepresentationalHarm）。

9.当使用同态加密保护模型参数隐私时，主要防范的对手模型是：

A.诚实但好奇的服务器

B.恶意客户端

C.拜占庭服务器

D.离线窃听者

答案：A

解析：同态加密允许服务器在不解密状态下执行计算，可阻止其通过参数窥探训练数据分布，适用于“诚实但好奇”的云训练场景。

10.在“可撤销同意”（Rev