智能控制第三版-典型神经网络.pptVIP

网络的学习算法如下： （1）前向传播：计算网络的输出。 隐层神经元的输入为所有输入的加权之和： 隐层神经元的输出 采用S函数激发 ： 则 输出层神经元的输出： 网络第 个输出与相应理想输出 的误差为： 第p个样本的误差性能指标函数为： 其中N为网络输出层的个数。 （2）反向传播：采用梯度下降法，调整各层间的权值。权值的学习算法如下： 输出层及隐层的连接权值 学习算法为： 其中 隐层及输入层连接权值 学习算法为： 如果考虑上次权值对本次权值变化的影响，需要加入动量因子 ，此时的权值为： 其中 为动量因子。 7.2.7 仿真实例：? 取标准样本为3输入2输出样本，如表7-1所示。 输 入 输 出 1 0 0 1 0 0 1 0 0 0.5 0 0 1 0 1 表7-1 训练样本 BP网络模式识别程序包括网络训练程序chap7_2a.m和网络测试程序chap7_2b.m。 7.3 RBF神经网络 径向基函数(RBF-Radial Basis Function)神经网络是由J.Moody和C.Darken在80年代末提出的一种神经网络,它是具有单隐层的三层前馈网络。由于它模拟了人脑中局部调整、相互覆盖接收域（或称感受野-Receptive Field）的神经网络结构，因此，RBF网络是一种局部逼近网络，已证明它能任意精度逼近任意连续函数。 RBF网络特点 (1) RBF网络的作用函数为高斯函数，是局部的，BP网络的作用函数为S函数，是全局的； (2) 如何确定RBF网络隐层节点的中心及基宽度参数是一个困难的问题； (3) 已证明RBF网络具有唯一最佳逼近的特性，且无局部极小。 7.3.1 RBF网络结构与算法 多输入单输出的RBF神经网络结构如图7-13所示。 图7-13 RBF网络结构 在RBF神经网络中， 为网络输入， 为隐含层第 j个神经元的输出，即 (7.20) 式中， 为第j 个隐层神经元的中心点矢量值。 高斯基函数的宽度矢量为 其中 为隐含层神经元 j的高斯基函数的宽度。 网络的权值为 (7.21) RBF网络的输出为 (7.22) 由于RBF网络只调节权值，因此，RBF网络较BP网络有算法简单、运行时间快的优点。但由于RBF网络中，输入空间到输出空间是非线性的，而隐含空间到输出空间是线性的，因而其非线性能力不如BP网络。 7.3.2 RBF网络设计实例 (1) 结构为1-5-1的RBF网络 考虑结构为1-5-1的RBF网络，取网络输入为 令 则网络输出为 取网络的输入为sint 时，网络的输出如图7-14所示，网络隐含层的输出如图7-15所示。仿真程序为chap7_3sim.mdl。 图7-14 RBF网络输出 图7-15 RBF网络隐层的输出 (2) 结构为2-5-1的RBF网络 考虑结构为2-5-1的RBF网络，取网络输入为 令 网络输出为 取网络的输入为sint 时，网络的输出如图7-16所示，网络隐含层的输出如图7-17和图7-18所示。仿真程序为chap7_4sim.mdl。 图7-16 RBF网络的输出 图7-17 第一个输入的隐层神经网络输出 图7-18 第二个输入的隐层神经网络输出 7.3.3 RBF网络的逼近 7.3.3.1 基本原理 采用RBF网络对模型进行逼近，结构如图7-19所示。 图7-19 RBF神经网络逼近 网络逼近的误差指标为