智能信息处理复习.docxVIP

智能： 智慧和能力。个体有目的的行为、合理的思维以及有效适应环境的能力。人工智能（AI）Artificial Intelligence：广义定义：通过对人类智力活动的探索与记忆思维规律的研究，以开发人类智力活动的潜力，探讨各种机器模拟人类智能的途径，以使人类的智能得以物化和延伸。狭义定义： 研究如何构造智能机器（智能计算机）或者智能系统，使它能模拟、延伸、扩展人类智能的学科。人工智能有能力做三件事：知识存储、解决问题、获取新知识人工智能的三个关键部分：表示、推理、学习两种学习方法： 1归纳法 具体到一般2演绎法 一般到具体人工智能的发展史 孕育时期 形成时期 发展时期计算智能Computational Intelligence： 借鉴仿生学思想，基于生物体系的生物进化、神经细胞网络等机制，用数学语言抽象描述的计算方法，用以模仿生物体系和人类的智能机制。神经网络是由大量的、同时也是很简单的处理单元（神经元）广泛地互相连接而形成的复杂网络系统。反映了人脑功能的许多特性，是对人脑功能进行某种简化、抽象和模拟。神经网络是非线性系统。神经网络的动力学过程：1快过程—计算过程：外界刺激促使模式发生变换的过程2慢过程—学习过程：神经元之间的连接强度根据环境信息发生缓慢变化，将环境信息逐步存储于神经网络中。神经网络模型的基本组成之神经元：1生物神经元的基本组成①细胞体：联络和整合输入信号并发出输出信号② 突起 树突：接受信号 轴突：传输细胞体发出的信号2人工神经元的基本结构处理单元 ①连接: 输入,输出 接收输入：Ⅰ 输入类型：兴奋性输入和抑制性输入 Ⅱ 输入的权值：抑制性连接权值 和活跃性连接权值 Ⅲ 传播规则（传播函数）把某个输入与其连接权值结合起来，对目的处理单元产生最终净输入的规则。处理输入：Ⅰ 活跃状态（活跃值）Ⅱ 活跃函数（活跃规则）：将某一处理单元的净输入与该处理单元当前活跃状态相结合，以产生一个新的活跃状态的规则。Ⅲ 活跃函数类型恒等函数、阈值函数、S型单调函数 产生输出：Ⅰ 输出值的作用 Ⅱ输出函数（输出规则）：根据某一神经元的当前活跃值产生对其它神经元影响的输出值的规则。Ⅲ 输出函数类型 硬极限函数、阈值函数、S型单调函数、恒等函数神经网络模型的基本组成之网络 神经网络结构 连接模式 多层、单层、反馈、前馈神经网络模型的基本组成之学习规则 ① 学习规则 根据环境动态修改各个处理单元之间连接权值的算法，使获得知识结构适应周围环境的变换②典型的学习规则1 Hebbian学习规则2 Delta学习规则③学习的类型1联想学习：自联想和异联想2规则发现 神经网络模型的基本组成之环境 环境内容：输入和输出神经网络模型描述的六个要素：传播规则 活跃规则 输出规则 互连模式 学习规则 环境神经网络模型结构特点 神经网络模型是由大量极简单的处理单元所组成：每一个处理单元仅仅是对输入信号加权求和，然后计算该处理单元新的活跃值和输出信号。每个处理单元要完成的功能非常简单，但是神经网络模型中的处理单元数目是如此之多，传统计算机是远远无法比拟的。 高度复杂的互连 ：在神经网络模型中处理单元与处理单元之间存在着高度复杂的互连，有的是在每一个处理单元之间都存在着互连；有的是在层与层之间的处理单元间存在互连，这主要取决于实际问题和所要达到的性能要求。而在传统计算机中，对于单机系统来说不存在互连问题，在双机或多机系统中，处理机之间的互连数也是有限的。前馈神经网络 ：感知器网络和BP网络Ⅰ、感知器网络1、感知器网络结构：单层神经网络。输出层神经元没有联系，所有处理单元都是线性阈值单元。2、感知器的计算3、感知器的几何意义：在多维空间上利用一超平面将样本分为两类模式。超平面方程为4、感知器学习算法：1、初始化：赋予权值一个较小的随机值W(0)（非零值）。2、将第p个模式Xp送入输入神经元，并给出理想输出值dp。3、计算神经网络模型的实际输出y(k) 4、根据y(k)与 dp计算第i条联线的权值增量: 5、转2，选取第p+1个样本，直到学完所有输入样本。6、按式 计算新的权值7、若 ，则学习结束，否则转2进入下一轮学习此处有例题5、感知机的缺陷：如果两类模式在分布空间是线性可分的，那么学习过程就一定会收敛。否则判定边界就会振荡不休，永远不会稳定，正是此原因，所以它连最简单的异或（XOR）问题也解决不了。Ⅱ、BP网络1、多层感知机的结构 输入层、隐含层、输出层2、BP(Back Propagation)反向传输算法的基本过程①初始化阶段②前馈阶段③权值调整阶段④学习精度计算⑤学习结束判断Hopfield模型概述:反馈神经网络模型是一反馈动力学系统，具有极复杂的动力学特性。在反馈神经网络模型中，我们关心的是其稳定性。从计算的角