基于认知学粒子群算法的BP网络优化方法综合分析说明.docVIP

上海大学 2010 ～ 2011 学年 冬 季学期研究生课程考试 小论文格式 课程名称： 计算智能 课程编号： 081101708 论文题目: 基于认知学粒子群算法的BP网络优化方法 研究生姓名: 赵海红 学 号: 论文评语: 成 绩: 任课教师: 刘悦 评阅日期: 年 月 日 BP神经网络优化问题，我们将改进的粒子群优化算法用于BP神经网络的学习训练，并与传统的BP网络的学习能力进行了比较。结果表明，将改进粒子群优化算法应用于BP神经网络优化，不仅能更快地收敛于最优解，而且很大程度地提高了结果的精度。 关键词：神经网络；粒子群算法；优化；BP；认知学 A Method Of BP Optimization Based on Cognitive-based Particle Swarm Zhao Haihong2,3 （Computer Engineering and Technology of Shanghai University,Shanghai, 200072） Abstract】: This theory based on cognitive psychology and the particle swarm algorithm of BP neural network optimization problems, we will improve particle swarm optimization algorithm for BP neural network learning and training, and with the traditional BP network learning ability compared . The results show that the improved PSO algorithm is applied to BP neural network optimization, not only converge to the optimal solution more quickly and greatly increase the accuracy of the results. 【Key words】：Neural network; particle swarm algorithm; optimization；BP；Cognitive Science 1 引 言 粒子群优化算法[12] (Particle Swarm Optimi- zation，PSO)最初是由Jim Kennedy于1995年提出并成功地用于函数优化，后来又进行了有效的拓展，是计算智能领域除蚁群优化算法(Ant Colony Optimization，ACO)(Swarm Intelligence，SI)Error Back Propagation Training，简称BP神经网络)是实际应用中最为广泛的一类。神经网络训练方法有很多，但往往都有一定缺陷，收敛速度慢，容易陷入局部极小值，或者不易实现。 因此，BP网络的优化改进成为了研究的热点之一[11]。近年来，有人将PSO的思想引入到BP网络优化中，用粒子群的迭代来代替BP算法中的梯度修正。此策略可以缩短网络训练的时间；提高算法的收敛速度。但如果根据不同的系统目标，改进原有的粒子群算法，就能进一步提高BP网络的性能，使其实用性更强。为了在全局有哪些信誉好的足球投注网站和局部有哪些信誉好的足球投注网站之间取得更好的平衡，本文依据认知心理学理[13]论拟从PSO给定固定权值的策略出发，将原来的线性递减权值策略改造为一个非线性递减权值策略。实验表明，将改进粒子群优化算法用于BP神经网络优化，不仅能更快地收敛于最优解，而且很大程度地提高了结果的精度。 2认知心理学认知心理学,且开始稍快,逐渐减缓,并在相当时间后趋于稳定。本文根据个体的行为以及与个体与群体相互作用的实际情况，考虑了鸟群个体认知行为应该是一个正太分布的情况。 个体认知与群体是相互影响的：个体认知是受到群体的影响，但是意味的追随群体，可能会遗忘掉自己本来的东西，增加局部有哪些信誉好的足球投注网站的复杂度；如何太忽视群体的优势，这样就会全局有哪些信誉好的足球投注网站有很大的影响。对此，本文提出了一种策略，个体认知的加速度是线性递减，群体认知的加速度是线性增加的，这样就会平衡俩者的各个确定，达到算法的最有效果。 3 BP神经网络与粒子群优化算法原理 3．1 BP神经网络原理 人工神经网络有任意精度