BP神经网络及其改进.pdfVIP

第 26卷 　第 2 期 太 原 科 技 大 学 学 报 Vo l. 26　№2 2005年 6 月 JOURNAL OF TA IYUAN UN IV ER SITY OF SC IENCE AND TECHNOLO GY Jun. 2005 文章编号 : 1673 - 2057 (2005) 02 - 0 120 - 06 BP神经网络及其改进 武美先 ,张学良,温淑花 ,李海楠 (太原科技大学机电学院 ,太原 030024) 　　摘 　要 :针对标准 B P算法存在的缺陷 ,从网络结构 、算法及初始值选取等各个角度 系统总结了 B P神经网络的各种改进措施 ,对各种方法的原理及优缺点作了详尽分析 ,指 出了 B P神经网络今后改进的方向。 　　关键词 :神经网络 ; B P算法 ;改进 中图分类号 : TP11　　文献标识码 : A 　　自美国加利福尼亚大学的 PD P ( Parallel D istrib ) u ted Proce ssing 小组提出多层前馈神经网络以来 , ( ) B P B ackProp agation 神经网络作为一种非线性系 统的辨识工具在分类模式识别 、图像处理和系统控 制等领域得到了广泛应用 ,但其在收敛速度 、泛化 能力等方面尚存在不足 , 国内外学者提出的改进方 法大多以计算的复杂性为代价 。本文系统总结了 图 1　神经元模型 B P算法 目前在系统误差函数的确立 、权值学习算法 F ig. 1　Nerve cell m odel 的设计 、网络结构优化 、网络泛化能力以及样本数 ( ) 1 正向传播过程 :输入信息从输入层经隐含 问题等几个方面的改进措施 ,指出了 B P 神经网络 层逐层处理 ,传向输出层 。若输出层的实际输出与 今后改进的方向。 期望的输出不符 ,则转入误差的反向传播 。 1　B P神经网络算法原理 ①输入层 :输入值一般为样本各分量输入值 , 输出值一般等于输入值 。 　　B P 神经网络具有结构简单 ,可操作性强 ,能模 ②隐含层 :对于节点 j, 其输入值 net 为其前一 k 拟任意的非线性输入输出关系等优点而成为 目前 层各节点输出值 Oi 的加权和 : 应用广泛的神经网络模型 , B P 网络由输入层 i、隐含 ( ) ne t = W O 1