求解非线性规划的Hopfield网络方法.pdfVIP

维普资讯 大 庆 石 油 学 院 学 报 第3O卷 第2期 2006年 4月 JOURNAlOFDAQING PETROLEUM INSTITUTE Vo1．30 No．2 Apr． 2006 求解非线性规划的Hopfield网络方法 刘劲涛 ，刘铁男 ，周忠波。 (1．天津大学 管理学院，天津 300072； 2．大庆石油学院 电气信息工程学院，黑龙江 大庆 163318； 3．大庆石化 公司 塑料厂，黑龙江 大庆 163714) 擅 薹：根据求解非线性规划的连续 Hopfield网络技术的发展，利用网络模型所依据的最优化方法，对 Hopfield神 经网络 (HNN)模型进行了分类：求解无约束化的HNN和求解约束化的HNN．后者又可分为基于罚函数的HNN和基 于Lagrange乘子法的HNN．阐述 了神经最优化技术所涉及 的前沿 问题 ，并指 出今后的发展方向为开发智能优化求解系 统． 关 ■ 词 ：非线性规划 ；Hopfield神经 网络 ；罚函数法；Lagrange乘子法 ；模拟退火 中圈分类号 ：TP183 文献标识码 ：A 文章编号 ：1000—1891(2006)02—0090一O3 0 引言 1982年，HOPFIELDJJ提出了离散的Hopfield网络模型Ⅲ ，之后他又给出连续的 Hopfield网络模 型 ，并且于 1985年成功地将该模型用于求解组合优化的TSP问题Ⅲ ，开辟 了求解最优化问题 的崭新途 径 ，此后 ，在应用领域中，不断涌现出新成果 ． 1 HNN模型 连续 的Hopfield网络模型(HNN)为 c警一 T 一毒¨” (1) 式中： 为第 i个神经元 的状态 ；t。为第 个神经元 的输出；i，—l，2，…，71；To为神经元 i到 的连接权 值 (或连线 电导)；R 和c 分别为 目标放大器的输入 电阻和电容 ；，为外部输入． 用 HNN求解优化问题的基本步骤 ：①选择合适的问题表示方法 ，使神经元输出与问题的解相对应； ②构造计算能量函数，使其最小值对应问题的最优解 ；③由计算能量 函数求得其对应的连接权值和偏置参 数；④构造相应的神经网络和电路方程 ；⑤计算机仿真求解． 2 HNN模型分类 变形和改进的HNN模 型可称为广义 HNN模型．根据各种计算模型所依据的基本优化方法之不同， 对 HNN模型进行归纳分类． 2．1 无约束优化的HNN模型 求解无约束优化问题 rain，()有 3种方法，∈R”，f：R一R1为连续可微函数． 2．1．1 梯度法 基于最速下降法 的人工神经网络 (NN)动态系统为 竿=一MV厂()， (2) 收稿 日期 ：2005一O9—09I审稿人 ：邵克勇 ；编辑 ：郑丽芹 基金项 目：黑龙江省 自然科学基金项 目(TF2005—26) 作着饷介：刘劲涛 (1973一)，男，硕士生 。主要从事经济管理方面的研究． ·90 · 维普资讯 第2期 刘劲涛等 ：求解非线性规划 的Hopfield网络方法 式中：M 为正定对角收敛速率控制因子矩阵 ，MER ； 厂()为函数的梯度． 2．1．2 Newton法 基于Newton法的NN模型为 dx 一 一 厂()-I一Vf()， (3) 式中：为收敛速率，0；厂()为Hesse阵，厂)一『 ]．Newt0n法具有二阶收敛速