第4章节+控制技术幻灯片.pptVIP

（三）BP算法 设BP网络非输入层的任一节点i对于第k个训练样本（xk yk）输出为Oik， 网络的期望输出为 网络的实际输出为yk 设有N个训练样本. 目标函数使用平方误差函数： Oik i 人工神经元是对生物神经元的一种模拟与简化。它是神经网络的基本处理单元。如图所示为一种简化的人工神经元结构。它是一个多输入、单输出的非线性元件。 （一）人工神经元模型 一般认为，最早用数学模型对神经系统中的神经元进行理论建模的是美国心理学家McCulloch和数学家Pitts。他们于1943 年建立了M-P 神经元模型。M-P 神经元模型首次简单的数学模型模仿出生物神经元活动功能，并揭示了通过神经元的相互连接和简单的数学计算，可以进行相当复杂的逻辑运算这一令人兴奋的事实。 （一） 神经元模型 （一）神经元模型 各个神经元之间的连接并不是一个单纯的传递信号的通道，而 是在每对神经元之间的连接上有一个加权系数，这个加权系数 起着生物神经系统中神经元的突触强度的作用，它可以加强或 减弱上一个神经元的输出对下一个神经元的刺激。 加权系数也称为权值，连接强度或突触强度。 w i 为一个神经元与另一个神经元之间连接的权值。在神经网络 中，修改权值的规则称为学习算法。即权值不是固定不变的，它 可以根据经验或学习来改变。这样系统就产生了“进化”。 人工神经网络模拟大脑神经元之间的连接，实现信息处理、存储等功能。一个简单的人工神经元模型，它的输入（ ）和输出（ ）关系可以描述为 （一）神经元模型 θ为神经元的激活阈值 此网络为MP网络（由McCulloch和Pitts提出的），是人工神经元模型的基础 神经元有三个区： 输入区：总输入 处理区：处理函数对输入进行加 工，也称激活规则 ui=g（Neti） 输出区：神经元对信号进行最 后加工并输出 （一）神经元模型 输入函数 处理函数 ui=g（Neti） 激励函数 （输出函数） （一）神经元模型 即为神经元处理功能的数学模型 概括来讲，一个人工神经元模拟生物神经元包括三个步骤： 对输入信号传递强度进行模拟，确定其权值。 对神经元的输出响应是各个输入的综合作用进行模拟,求所有输入加权和。 对神经元输出状态（兴奋或抑制）进行模拟，寻找其输出函数（激励函数），实现对输入、输出函数的转换。 （一）神经元模型 MP神经元模型 每一神经元的输出或“0”或“1”，分别表 “抑制”或“兴奋”状态，则： 激励函数： 当神经元的输入信号加权和超过阈值时，输出为1，即“兴奋”状态，反之，输出为“0”，是‘‘抑制”状态。 f(u)= 1 u ≥0 0 u0 常用的输出函数有： (1)恒等函数 yi=ui (2)阈值函数 （3）饱和型函数 （4）双曲函数 (5) S型函数 (6)高斯函数径向基函数） （一）神经元模型 阈值型函数 饱和型函数 常用的输出函数 双曲函数 S型函数 常用的输出函数 高斯函数 （径向基函数） 常用的输出函数 人工神经网络的概念 人工神经网络是一个并行、分布处理结构，它由处理单元及其联接的有向讯号通道互连而成。这些处理单元具有局部内存，并可以完成局部操作。每个处理单元有一个单一的输出联接，这个输出可以根据需要被分枝成希望个数的许多并行联接，且这些并行联接都输出相同的信号，即相应处理单元的信号，信号的大小不因分支的多少而变化。 （二）神经网络结构 处理单元的输出信号可以是任何需要的数学模型，每个处理单元中进行的操作必须是完全局部的。也就是说，它必须仅仅依赖于经过输入联接到达处理单元的所有输入信号的当前值和存储在处理单元局部内存中的值。 人工神经网络是一个非线性的有向图，图中含有可以通过改变权大小来存放模式的加权边，并且可以从不完整的或未知的输入找到模式。 （二）神经网络结构 人工神经网络模型分类 人工神经网络是以工程技术手段来模拟人脑神经元网络的结构与特征的系统。利用人工神经元可以构成各种不同拓扑结构的神经网络，它是生物神经网络的一种模拟和近似。就神经网络的主要连接型式而言，目前已有数十种不同的神经网络模型。 （二）神经网络结构 按性能：连续型和离散型； 按结构：反馈网络和前向网络； 按学习方式：有导师型和无导师型； 按逼近特性：全局逼近型和局部逼近型； 其中前馈型网络和反馈型网络是两种典型的结构模型。 （二）神经网络结构 在众多的神经网络结构中，多层前馈神经网络(Multilay Feedforwor