浙教版信息技术高中选修4 人工智能初步5.3 人工智能安全-教学课件.pptxVIP

人工智能安全浙教版信息技术

导入：央视财经微纪录片《人工智能：时代的机遇和挑战》：人工智能的到来让我们站在了新的转折点，技术带来的争议与惊喜如影随形。当虚拟和现实的边界日益模糊，潘多拉的盒子是否已经开启？未知的风险开启了关于治理的议题？看一看人工智能的浪潮如何推动人类建立未来世界的秩序……

活动一：探究人工智能带来的安全隐患思考与讨论：1.结合生活实例，讨论涉及人工智能安全隐患的案例；2.分析人工智能面临的安全风险主要有哪两种类型？

分析与交流：1.人工智能算法的正确性的风险2.人工智能算法的可靠性的风险活动一：探究人工智能带来的安全隐患

2019年11月7日，美官方公布了全球首例无人车致死事故的更多细节。在Uber的无人驾驶汽车而发生车祸前5.6秒时车辆就已经检测到了行人，但是系统把她错误识别为汽车。在车祸前5.2秒，汽车的自动驾驶系统又把她归类为“其他”，认为她是不动的物体，并不妨碍车辆行驶。之后系统对物体的分类发生了混乱，在“汽车”和“其他”之间摇摆不定，浪费了大量宝贵的时间。车辆未能及时采取刹车措施，最终导致事故发生。此外，Uber当时禁用了这个测试车辆的紧急制动功能。而当时车辆上乘坐的Uber安全员正在用手机观看电视节目，错失了最后的避险时机。正确性：能够按照算法设计或算法目标来严格执行。一：人工智能算法的正确性

正确性证明程序测试如何保证算法能够顺畅运行、符合设计者预期来输出结果呢？一：人工智能算法的正确性

只能保证在这些测试用例下，程序没有出错，却不能证明程序本身没有错误某程序员编写了如下人工智能程序:输入三个整数，输出其中所有的素数(质数)。现在需要选用几个样例来测试程序的正确性，你会采用哪些特殊的样例?分析与交流：为了测试该程序的正确性，准备了如下三个测试用例:(-3，4，9)(π，3，5)(5，7，19)程序分别输出:没有素数、输入错误、(5，7，19)。在这些样例测试下，程序输出均是正确的，这样就能确保程序的正确性吗?活动二：探究程序正确性证明的方法

正确性证明程序测试形式化方法非形式化程序规约：采用自然语言描述程序功能，简单、方便，但存在二义性，不利于程序的正确性证明。形式化程序规约：采用数学化的语言描述程序功能，描述精确，无二义性，便于程序的正确性证明。一：人工智能算法的正确性

求两个数中较大数的程序:输入谓词:P(x1，x2)(x1和x2为任意两个数)输出谓词如下:Q(x1，x2)=x1∧x1x2orQ(x1，x2)=x2∧x2x1orQ(x1，x2)=x1∧x1=x2分析与交流：程序进行形式化证明:将程序算法本身转换成逻辑表达形式，进而应用形式化方法来证明程序本身是否正确。活动三：探究程序形式化证明的方法

如果恶意使用对抗样本：可以欺骗自动驾驶汽车，使其不能正确识别道路停车标志从而引发事故；可以欺骗语音识别系统，让系统误认为是“主人语音”或执行虚假命令；可以入侵城市交通系统或武器系统。可靠性：能够抵御外界的攻击，使得攻击者无法通过破坏和控制人工智能系统本身，或者通过特意改变输入来使系统不知不自觉地做出攻击者想要的决定。这种通过对抗样本对智能系统发起的欺骗被称为“对抗性攻击”。二：人工智能算法的可靠性（即鲁棒性）

拓展与提升一：实践内容:1.收集图片数据，加入噪声。2.在Keras上构建和使用ResNet分类模型。3.收集实验结果，进行分析和解释。活动四：体验“对抗样本”对人工智能可靠性的影响

信息空间人类社会物理空间用户安全内容安全网络安全系统安全用户只能访问其被授予权限的系统，不能超越其权限来操作系统。系统中代码和数据是正确的，未受到恶意修改。信息在传输过程中未被截获泄密。保障整个信息系统从数据采集到数据分析以及决策行动等方面的安全。可靠性风险：对人工智能系统在实际环境中所面临的外部攻击威胁。二：人工智能算法的可靠性（即鲁棒性）

智能之基：伦理与安全人工智能伦理人—人道德准则人—机道德准则机—机道德准则人工智能安全人工智能算法的正确性人工智能算法的可靠性“软规范”“硬外壳”复习与巩固：

拓展与提升二：人们常说“魔高一尺，道高一丈”，人工智能安全防护技术随着攻击技术的不断进步而不断进步。必须意识到人工智能安全上的缺陷，才能最终解决人工智能存在的缺陷。辩证地思考人工智能安全防护技术在与攻击手段对决中如何不断提升？