一个求解无约束优化的ODE型混合方法.pdfVIP

应 用 数 学 MATHEMATICAAPPLICATA 2015，28(4)：801—810 一 个求解无约束优化的oDE型混合方法 贾胜南 ，欧宜贵 ，王冠舒 f1．海南大学数学系，海南海口570228；2．胜利学院数学物理系，山东东营257097) 摘要：基于非单调技术，本文给出一种新的求解无约束优化的ODE型算法．该算 法的特点是：每次迭代时只解一次线性方程组系统而获得试验步，然后采用改进 的非单调线有哪些信誉好的足球投注网站获得下一个迭代点，从而避免了重复求解线性方程组，减少了算 法的计算量．在合理的假设条件下，该算法被证明是全局收敛和局部超线性收敛 的．数值试验证实了该算法的有效性． 关键词：无约束优化；非单调技术；信赖域技术；收敛性分析；数值试验 中图分类号：O221 AMS(2000)主题分类：90C30；65K05 文献标识码：A 文章编号：1001—9847(2015)04-0810—10 1．引言 本文考虑如下的无约束优化问题： ∈Rinn．’厂、()，。 (1．1) 其中f： 是连续可微的函数．求解 问题(1．1)的方法主要有线有哪些信誉好的足球投注网站方法和信赖域方 法1【]_为了方便起见，在迭代点 处，本文以下用^表示函数值I(x)， 表示梯度Vf(x)， 表示Hessian阵Vf(x％)或其近似逼近矩阵． 无约束优化的ODE方法也是求解问题 (1．1)的一类方法2【】_它是将问题 (1．1)先转化为 一 个微分方程组的初值问题，再沿着解曲线寻求 目标函数的极值点．自ODE方法被提出后，很 多学者对此进行了研究并获得了一系列的研究成果[3_71．大量的数值试验表明，当恰当实施时， ODE方法在可靠性、准确性和有效性方面可与传统的牛顿法和拟牛顿法相媲美，尤其在处理 具有 “峡谷”的非线性最优化问题时表现更好，其中，数值效果最好的是IMPBOT算法3【】j它 是通过解 以下的线性方程组系统 (hkBk+5d=一 ． (1。2) 来获得试验步d的，这里h为积分步长．显然，当h 一÷0时，dk趋于最速下降方向，当h -÷ +∞时， 趋近于拟牛顿方向．此外，当 =丢时，基于线性系统(1．2)的IMPBOT方法就等同 于L—M信赖域方法 【．然而，IMPBOT算法的一个主要缺陷是：在获得可接受的d之前，需要反 复求解线性方程系统(1．2)，从而当问题的规模增大时，这一方法将明显增加计算量，降低算法 的效率．为了克服上述缺陷，最近有学者提出了一些混合的ODE型方法s【-lo]，其特点是：当试 验步d被拒绝时，这些混合方法通过某种线有哪些信誉好的足球投注网站来找到新的迭代点，而不是重复求解线性方 程系统，从而减少了计算量．数值试验表明这些方法是有效的． 收稿 日期： 2014-11—18 基金项目： 国家自然科学基金和海南省 自然科学基金(111001 作者简介：贾胜南，女，汉族，河南人，研究方向：最优化算法． 通信作者：欧宜贵． 802 应 用 数 学 传统的优化方法要求每一步迭代所获得的试探步d使得 目标函数值有一定程度的下降1【】． 然而，正如文[11—12】指出，若强制要求 目标函数在每一步迭代时都严格单调下降，通常会减 缓算法的收敛速率，尤其是当目标函数出现 “峡谷”或者 “锯齿”形状时．非单调技术最早 是~Grippo等人提出的1【3]．随后，研究人员提出了许多具有非单调特性的优化算法 1【4—19]及 其后的参考文献．大量的数值试验结果表明，非单调技术比单调技术更具优势，尤其是在处 理较难的优化问题[1166]．最近，结合非单调技术，YUAN和OU提出了一个比较有效地求解问 题(1．1)的ODE型混合方法’z【o-．随着所解优化问题规模的不断增加，探讨并设计一些高效的优 ，●● 1 【 化算法具有重要的理论意义．