第3章-人工神经网络控制论.ppt

第3章 人工神经元网络控制论 Artificial Neural Networks 3.1 引言 3.2 前向神经网络模型 3.3 动态神经网络模型 3.4 CMAC神经网络 3.5 RBF神经网络 3.6 神经网络控制基础 3.7 非线性动态系统的神经网络辨识 3.8 神经网络控制的学习机制 3.9 神经网络控制器的设计 人工神经网络：是模拟人脑细胞的分布式工作特点和自组织功能，且能实现并行处理、自学习和非线性映射等能力的一种系统模型。 神经网络系统实质上是由大量的，同时也是很简单的处理单元（或称神经元）广泛地互相连接而形成的复杂网络系统。 随着人工神经网络应用研究的不断深入，新的神经 网络模型不断推出。现有的神经网络模型已达近百种。在智能控制领域中应用最多的是以下几种基本模型 和它们的改进型，即 前向多层感知器(BP网络) Hopfield网络 自组织神经网络 动态递归网络 联想记忆网络(BAM)等 神经网络的研究内容： 1）神经元模型 2）神经网络结构 3）神经网络学习方法 从神经元模型角度有：线性处理单元和非线性处理单元。 从网络结构方面看有：前向网络、反馈网络和自组织网络。 神经网络学习：指神经元系统能根据某种学习方法调整它内部的参数以完成特定任务的过程。 根据不同的神经网络结构，学习方法主要有： 有导师指导下的学习 无导师指导下的学习 生物神经网 1、构成 3、六个基本特征： 1）神经元及其联接； 2）神经元之间的联接强度决定信号传递的强弱； 3）神经元之间的联接强度是可以随训练改变的； 4）信号可以是起刺激作用的，也可以是起抑制作用的； 5）一个神经元接受的信号的累积效果决定该神经元的状态； 6) 每个神经元可以有一个“阈值”。 人工神经元 神经元是构成神经网络的最基本单元（构件）。 人工神经元模型应该具有生物神经元的六个基本特性。 3.1.1神经元模型 3.1.2神经网络的模型分类 根据生物神经系统的不同组织层次和抽象层次的模拟（四种） 1）神经元层次模型 2）组合式模型 3）网络层次模型 4）神经系统层次模型 根据神经元的连接方式 1）前馈网络 2）反馈网络 3）相互结合型网络 4）混合型网络 神经网络的多种结构 单层感知器 神经网络的多种结构 单层感知器 神经网络的多种结构 神经网络的多种结构 多层感知器 神经网络的多种结构 多层感知器 神经网络的多种结构 神经网络的多种结构 自适应线性神经元 神经网络的多种结构 自适应线性神经元 神经网络的多种结构 神经网络的多种结构 三层前馈网络 神经网络的多种结构 三层前馈网络 神经网络的多种结构 神经网络的多种结构 全局递归型神经网络 神经网络的多种结构 神经网络的多种结构 神经网络的多种结构 局部递归型神经网络 神经网络的多种结构 　　局部递归型神经网络 神经网络的多种结构 神经网络的多种结构 基本Elman网络 神经网络的多种结构 神经网络的多种结构 神经网络的多种结构 改进型Elman网络 神经网络的多种结构 神经网络的多种结构 PID神经网络 神经网络的多种结构 神经网络的多种结构 神经网络的多种结构 小脑模型神经网络 神经网络的多种结构 小脑模型神经网络 神经网络的多种结构 神经网络的多种结构 连续型Hopfield网络 神经网络的多种结构 连续型Hopfield网络 3.1.3神经网络的学习算法 有导师学习 无导师学习 相关学习法实际上是一种有导师指导下的Hebb学习法，用期望输出值ti代替yi，即 Widrow-Hoff学习规则 目标函数： 权值更新规则： 3.1.4神经网络的泛化能力 泛化的含义 在具有某一概率分布的样本中，随机地取一部分做为神经网络的训练样本。首先对这组样本进行神经网络训练最终得到神经网络输出的误差e1，然后再由全体样本中再随机地拿出另一组输入输出数据对已经训练好的神经网络进行校对，这时记神经网络的实际输出和期望输出之间的差为e2。那么定义|e1-e2|为这个神经网络的泛化能力。 3.2前向神经网络模型 单一人工神经元 单层神经网络结构 单层神经网络结构 W=（wij） 输出层的第j个神经元的网络输入记为netj： netj=x1w1j+x2w2j+…+xnwn j +θj; 其中, 1≤ j ≤ m。取 NET=（net1，net2，…，netm） NET=XW+θ O=F（NET） 3.2.2多层传播网络的BP学习算法 性能指标: 2.单层网络的学习算法 基于最小二乘的学习方法 如果输出激励单元为线性函数，