BP算法的程序实现与改进.pdfVIP

第 期 阿 坝 师 范 高 等 专 科 学 校 学 报 年 月 DEED D DEED BB 7,8D DEED FGHI7*J GK *!* 9C*LMCIN LGJJCOC 7, DEED ! 算法的程序实现与改进 杨兴江 （阿坝师专数学计算机科学系，四川 汶川 !#$$$） 【摘 要】文章介绍了神经网络中应用广泛的 算法及其学习过程，并在此基础上用 实现了 ! #$%’( ) 程序。同时，本文还总结了几种改进的! 算法。 【关键词】神经网络； 算法；遗传算法；进化规划；程序 ! 【中图分类号】 【文献标识码】 【文章编号】 — !#$% ( ) **! +!!,!##- !# $%’%())*+’ (+, -).%/*+’ 0 1$ 23’%*4)5 !#$ %#$’#$ 2654%(748 ! *%+,-(.’/0 1-$ 2(3$%4 50$3 (6 *778 9’$ 1$- (6.-,35:$0 ! *%+,-(.’/0 163 .’$ -,:$00 ,; 0.534 ,; (. 10 1 ,(6. ,; 3$1-.5-$ ;,- .’$ -,(0(,6 ,; 1 -,+-1/ ,; ! *%+,-(.’/0 (6 #$%’( )8 =6 133(.(,6 (. +$6$-1%(?$0 0$$-1% (/-,$3 ! *%+,-(.’/08 9#: ;%,58 -.(;(:(1% 6$5-1% 6$.2,-@A! *%+,-(.’/0A +$6$.(: 1%+,-(.’/0A $,%5.(,61-4 -,+-1//(6+A -,+-1//(6+ B、引言 习、记忆具有不稳定性。为了克服上述的缺点，提高! 人工神经网络 （ ）用权值来模拟生物神经元 网络的性能，人们提出了许多改进方案，本文总结了一 *77 间的突触强度，它已经成功地应用于模式识别、图象处 些改进方法。 、 网络的学习过程 理、预测、系统辩识、控制、组合优化等广泛领域。对于 D ! 一个结构已经确定的神经网络来说，权值的学习算法 误差逆传播校正方法是利用实际输出与期望输 是非常重要的，它在很大程度上决定了网络能否训练、 出之差对网络的各层连接权由后向前逐层校正的一种 收敛速度、学习质量，泛化能力等。前向网络是应用最 计算方法。理论上，这种方法可以使用于任意多层的网 广泛的人工神经网络模型，其中使用得最多是同层神 络。为简单起见，给出一个三层 ! 网络模型，如图B 经元间无连接的结构，这种结构一般使用误差逆传播 所示。 算法 （ ）进行学习， C--,- !1:@ -,1+1.(,6 .-1(6(6+ 把一组样本的输入输出问题变成一个非线性优化问 题，采用 #$%.1 学习规则，即利用梯度下降法，使权值 向它的误差函数负梯度的方向进行调整，以实现最快 减小误差。! 网络模型已成功的用于信号处理，文本 与语音变换和数据处理。 网络虽然具有很强的非 ! 线性映射能力，有广泛的应用，但它也有许多缺点：