浙教版信息技术高中选修4 人工智能初步5.3 人工智能安全-（表格式）教案.docxVIP

教学设计

课程基本信息

学科

信息技术

年级

高三

学期

秋季

课题

人工智能安全

教科书

书名：人工智能初步

出版社：浙江教育出版社出版日期：2019年12月

教学目标

1.掌握人工智能安全的两个方面。

2.保障人工智能安全的基本手段。

教学内容

教学重点：

1.探究人工智能技术带来的安全隐患。

2.掌握程序正确性证明的基本概念。

3.掌握保障信息系统安全的基本手段。

教学难点：

1.如何保障人工智能安全。

教学过程

导入：

央视财经微纪录片《人工智能：时代的机遇和挑战》，主持人这样说道：

人工智能的到来让我们站在了新的转折点，技术带来的争议与惊喜如影随形。当虚拟和现实的边界日益模糊，潘多拉的盒子是否已经开启？未知的风险开启了关于治理的议题？

看一看人工智能的浪潮如何推动人类建立未来世界的秩序……

活动一：探究人工智能带来的安全隐患

思考与讨论：

1.结合生活实例，讨论涉及人工智能安全隐患的案例；

2.分析人工智能面临的安全风险主要有哪两种类型？

分析与交流：

1.人工智能算法的正确性的风险

2.人工智能算法的可靠性的风险

一：人工智能算法的正确性

正确性：能够按照算法设计或算法目标来严格执行。

如何保证算法能够顺畅运行、符合设计者预期来输出结果呢？

正确性证明

活动二：探究程序正确性证明的方法

某程序员编写了如下人工智能程序:

输入三个整数，输出其中所有的素数(质数)。

现在需要选用几个样例来测试程序的正确性，你会采用哪些特殊的样例?

分析与交流：

为了测试该程序的正确性，准备了如下三个测试用例:

(-3，4，9)

(π，3，5)

(5，7，19)

程序分别输出:没有素数、输入错误、(5，7，19)。

在这些样例测试下，程序输出均是正确的，这样就能确保程序的正确性吗?

只能保证在这些测试用例下，程序没有出错，却不能证明程序本身没有错误。

活动三：探究程序形式化证明的方法

求两个数中较大数的程序:

输入谓词:

P(x1，x2)(x1和x2为任意两个数)

输出谓词如下:

Q(x1，x2)=x1∧x1x2orQ(x1，x2)=x2∧x2x1orQ(x1，x2)=x1∧x1=x2

分析与交流：

程序进行形式化证明:

将程序算法本身转换成逻辑表达形式，进而应用形式化方法来证明程序本身是否正确。

二：人工智能算法的可靠性（即鲁棒性）

可靠性：能够抵御外界的攻击，使得攻击者无法通过破坏和控制人工智能系统本身，或者通过特意改变输入来使系统不知不自觉地做出攻击者想要的决定。

通过对抗样本对智能系统发起的欺骗被称为“对抗性攻击”。

活动四：体验“对抗样本”对人工智能可靠性的影响

拓展与提升一：

实践内容:

1.收集图片数据，加入噪声。

2.在Keras上构建和使用ResNet分类模型。

3.收集实验结果，进行分析和解释。

可靠性风险：对人工智能系统在实际环境中所面临的外部攻击威胁。

从以下四个方面提高人工智能算法的可靠性：

用户安全：用户只能访问其被授予权限的系统，不能超越其权限来操作系统。

内容安全：系统中代码和数据是正确的，未受到恶意修改。

网络安全：信息在传输过程中未被截获泄密。

系统安全：保障整个信息系统从数据采集到数据分析以及决策行动等方面的安全。

复习与巩固：

拓展与提升二：

人们常说“魔高一尺，道高一丈”，人工智能安全防护技术随着攻击技术的不断进步而不断进步。必须意识到人工智能安全上的缺陷，才能最终解决人工智能存在的缺陷。

辩证地思考人工智能安全防护技术在与攻击手段对决中如何不断提升？