浙教版信息技术高中选修4 人工智能初步5.3 人工智能安全-(表格式)教案.docxVIP

浙教版信息技术高中选修4 人工智能初步5.3 人工智能安全-(表格式)教案.docx

此“教育”领域文档为创作者个人分享资料,不作为权威性指导和指引,仅供参考
  1. 1、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

教学设计

课程基本信息

学科

信息技术

年级

高三

学期

秋季

课题

人工智能安全

教科书

书名:人工智能初步

出版社:浙江教育出版社出版日期:2019年12月

教学目标

1.掌握人工智能安全的两个方面。

2.保障人工智能安全的基本手段。

教学内容

教学重点:

1.探究人工智能技术带来的安全隐患。

2.掌握程序正确性证明的基本概念。

3.掌握保障信息系统安全的基本手段。

教学难点:

1.如何保障人工智能安全。

教学过程

导入:

央视财经微纪录片《人工智能:时代的机遇和挑战》,主持人这样说道:

人工智能的到来让我们站在了新的转折点,技术带来的争议与惊喜如影随形。当虚拟和现实的边界日益模糊,潘多拉的盒子是否已经开启?未知的风险开启了关于治理的议题?

看一看人工智能的浪潮如何推动人类建立未来世界的秩序……

活动一:探究人工智能带来的安全隐患

思考与讨论:

1.结合生活实例,讨论涉及人工智能安全隐患的案例;

2.分析人工智能面临的安全风险主要有哪两种类型?

分析与交流:

1.人工智能算法的正确性的风险

2.人工智能算法的可靠性的风险

一:人工智能算法的正确性

正确性:能够按照算法设计或算法目标来严格执行。

如何保证算法能够顺畅运行、符合设计者预期来输出结果呢?

正确性证明

活动二:探究程序正确性证明的方法

某程序员编写了如下人工智能程序:

输入三个整数,输出其中所有的素数(质数)。

现在需要选用几个样例来测试程序的正确性,你会采用哪些特殊的样例?

分析与交流:

为了测试该程序的正确性,准备了如下三个测试用例:

(-3,4,9)

(π,3,5)

(5,7,19)

程序分别输出:没有素数、输入错误、(5,7,19)。

在这些样例测试下,程序输出均是正确的,这样就能确保程序的正确性吗?

只能保证在这些测试用例下,程序没有出错,却不能证明程序本身没有错误。

活动三:探究程序形式化证明的方法

求两个数中较大数的程序:

输入谓词:

P(x1,x2)(x1和x2为任意两个数)

输出谓词如下:

Q(x1,x2)=x1∧x1x2orQ(x1,x2)=x2∧x2x1orQ(x1,x2)=x1∧x1=x2

分析与交流:

程序进行形式化证明:

将程序算法本身转换成逻辑表达形式,进而应用形式化方法来证明程序本身是否正确。

二:人工智能算法的可靠性(即鲁棒性)

可靠性:能够抵御外界的攻击,使得攻击者无法通过破坏和控制人工智能系统本身,或者通过特意改变输入来使系统不知不自觉地做出攻击者想要的决定。

通过对抗样本对智能系统发起的欺骗被称为“对抗性攻击”。

活动四:体验“对抗样本”对人工智能可靠性的影响

拓展与提升一:

实践内容:

1.收集图片数据,加入噪声。

2.在Keras上构建和使用ResNet分类模型。

3.收集实验结果,进行分析和解释。

可靠性风险:对人工智能系统在实际环境中所面临的外部攻击威胁。

从以下四个方面提高人工智能算法的可靠性:

用户安全:用户只能访问其被授予权限的系统,不能超越其权限来操作系统。

内容安全:系统中代码和数据是正确的,未受到恶意修改。

网络安全:信息在传输过程中未被截获泄密。

系统安全:保障整个信息系统从数据采集到数据分析以及决策行动等方面的安全。

复习与巩固:

拓展与提升二:

人们常说“魔高一尺,道高一丈”,人工智能安全防护技术随着攻击技术的不断进步而不断进步。必须意识到人工智能安全上的缺陷,才能最终解决人工智能存在的缺陷。

辩证地思考人工智能安全防护技术在与攻击手段对决中如何不断提升?

文档评论(0)

180****6794 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档