7基于神经网络的模式识别实验要求.docVIP

实验七 基于神经网络的模式识别实验 一、实验目的 理解BP神经网络和离散Hopfield神经网络的结构和原理，掌握反向传播学习算法对神经元的训练过程，了解反向传播公式。通过构建BP网络和离散Hopfield网络模式识别实例，熟悉前馈网络和反馈网络的原理及结构。 二、实验原理 BP学习算法是通过反向学习过程使误差最小，其算法过程从输出节点开始，反向地向第一隐含层(即最接近输入层的隐含层)传播由总误差引起的权值修正。BP网络不仅含有输入节点和输出节点，而且含有一层或多层隐(层)节点。输入信号先向前传递到隐节点，经过作用后，再把隐节点的输出信息传递到输出节点，最后给出输出结果。 离散Hopfield神经网络的联想记忆过程分为学习和联想两个阶段。在给定样本的条件下，按照Hebb学习规则调整连接权值，使得存储的样本成为网络的稳定状态，这就是学习阶段。联想是指在连接权值不变的情况下，输入部分不全或者受了干扰的信息，最终网络输出某个稳定状态。　　三、实验条件 Matlab 7.X 的神经网络工具箱：在Matlab 7.X 的命令窗口输入nntool，然后在键盘上输入Enter键，即可打开神经网络工具箱。 四、实验内容 1.针对教材P243例8.1，设计一个BP网络结构模型（63-6-9），并以教材图8.5 为训练样本数据，图8.6为测试数据。 （1）inputdata10，outputdata10）和测试数据（testinputdata，testoutputdata），其次新建一个神经网络（New Network），选择参数如下表1，给出BP神经网络结构图。 表1 BP网络结构模型的各项参数设置 Network Name（神经网络名称） nn10_1 Network Type（神经网络类型） Feed-forward backprop（前馈反向传播） Input ranges（输入信息范围） 来自训练样本的输入数据（inputdata10） Training function（训练函数） TRAINGD(梯度下降BP算法) Performance function（性能函数） MSE（均方误差） Number of layers（神经网络层数） 2 Layer1（第1层）的Number of neurons (神经元个数) 6 Layer1（第1层）的Transfer Function (传递函数) LOGSIG（S型函数） Layer2（第2层）的Number of neurons (神经元个数) 9 Layer2（第2层）的Transfer Function (传递函数) LOGSIG（S型函数） （2）inputdata10，outputdata10），随机初始化连接权（Initialize Weights），然后进行训练（Train），训练参数设置如表2所示，并观察训练目标值变化曲线图，最后把BP神经网络训练成功后(即误差不再变化后)的误差值填入表3。 表2 BP网络训练参数 训练次数（epochs） 10000 训练时间（time） Inf 训练目标（goal） 0 学习率（lr）1e-050 两次显示之间的训练步数（show） 25 表3 BP网络各训练算法的训练目标值 Training function （训练函数） Network Name （神经网络名称） 训练次数（epochs） Performance (训练目标值) TRAINGD(梯度下降BP算法) nn10_1 10000 7.22e-5 TRAINGDM（梯度下降动量BP算法） nn10_2 10000 1.57e-4 TRAINLMM（Levenberg-Marquardt BP训练函数） nn10_3 1276 6.4269e-27 TRAINRP（弹性BP算法） nn10_4 19 2.41974e-59 TRAINSCG（变梯度算法） nn10_5 192 4.343e-51 （3）TRAINRP（弹性BP算法）、TRAINSCG（变梯度算法），然后输入训练样本数据（inputdata10，outputdata10），训练参数设置如表2所示，设置相同的初始连接权（Revert Weights），观察不同BP训练算法的学习效果，把各训练算法的训练目标值填入上表3。 W（1，1） [0 0 0 0 0 0 0 0 0 0 1.4589 0.62922 -0.30395 0.83977 0.15156 0.31507 -0.90606 0 0 1.889 1.6675 0 1.0211 1.8956 0 1.9483 0 0 -0.19146 0.16119 -1.7775 -1.8126 0.59896 0.4