课件1-2 智能系统课件.pptVIP

1.2 自适应线性元件 1.2.1 自适应线性神经元模型和结构 自适应线性元件的几何解释 如果以（单）输入矢量为横坐标，网络（单）输出为纵坐标，那么，自适应线性元件功能的几何图形就是： 训练网络权值来设计一条直线将输入/输出样本对进行线性逼近 1.2.2 W-H学习规则及其网络的训练 1.2.3 例题与分析 训练后的网络权值为： W =[-2.3652 2.2126 3.0837 2.1406 -1.7765 -2.0250 2.0732 -1.2537 0.0544 -1.6762 0.9665 0.9818]; B =[-1.0210;1.1980;-0.4469; -0.3101]; 【例1.3】设计训练一个线性网络实现下列从输入矢量到目标 矢量的变换： P = [ 1 2 3 ; 4 5 6 ]; T = [ 0.5 1 -1 ]; 1.2.4 对比与分析 （1）网络模型结构上 （2）学习算法 （3）适用性与局限性 1.2.5 自适应线性网络的应用 1.2.5.1 线性化建模 最简单的系统模型（或函数）的数学表达式为： 1.2.5.2 预测 预测是通过适当的设计网络使得下式成立： 1.2.5.3 消除噪声 网络是通过自适应滤波器的输出信号去逼近混杂在声音信号中的噪声部分，调整自适应滤波器以便使误差为最小。 1.3 反向传播网络 1.3.1 反向传播法网络模型与结构 一个具有r个输入和一个隐含层的神经网络模型结构如图1.13所示。 BP网络主要功能 1）函数逼近：用输入矢量和相应的输出矢量训练一个网络逼近一个函数； 2）模式识别：用一个特定的输出矢量将它与输入矢量联系起来； 3）分类：把输入矢量以所定义的合适方式进行分类； 4）数据压缩：减少输出矢量维数以便于传输或存储。 1.3.2 BP算法（误差反向传播法：Back-Propergation） 利用梯度下降法求权值变化及误差的反向传播 (2) 隐含层权值变化 对从第j个输入到第i个输出的权值，有： 误差反向传播的流程图与图形解释 BP算法要用到各层激活函数的一阶导数，所以要求其激活函数处处可微 对于对数S型激活函数 BP网络的训练及其设计过程 根据具体的问题给出的输入矢量P与目标矢量T，并选定所要设计的神经网络的结构，其中包括以下内容： BP网络的训练步骤 1）用小的随机数对每一层的权值W和偏差B初始化，以保证网络不被大的加权输入饱和；并进行以下参数的设定或初始化： a)期望误差最小值mse； b)最大循环次数； c)修正权值的学习速率lr，一般情况下 lr = 0.01 ~ 0.7； 2）用函数newcf.m或newff.m建立一个多层前向网络，例如： net = newcf(minmax(P),[5 1],{tansig purelin},traingd); 3）可以用net = train(net,P,T)来训练网络 赋值，定义训练参数并进行训练 net=newcf(minmax(P),[5,1],{tansig,purelin},traingd); %创建两层前向回馈网络 net.trainParam.epochs=7000; %初始化训练次数 net.trainParam.goal=9.5238e-004; % mse = 9.5238e-004 = sse/(Q*S2) = 0.02/21 [net,tr]=train(net,P,T); %训练网络 Y=sim(net,P) ; %计算结果 plot(P,T,ro) %画输入矢量图 算法traingd.m的缺省参数 net.trainParam.epochs = 10; % 最大训练次数 net.trainParam.goal = 0； % 训练误差性能指标（MES） net.trainParam.lr = 0.15； % 学习速率 net.trainParam.max_fail = 5；% 最大确认失败数 net.trainParam.min_grad = 1e-10； % 最小执行梯度 net.trainParam.show = 25； % 显示循环间隔数 net.trainParam.tim