解大规模优化问题的锥模型共轭梯度法.pdfVIP

承诺书 本人郑重声明：所呈交的硕士学位论文，是本人在导师指导下，独 立进行研究工作所取得的成果。尽我所知，除文中已经注明引用的内容 外，本学位论文的研究成果不包含任何他人享有著作权的内容。对本论 文所涉及的研究工作做出贡献的其他个人和集体，均已在文中以明确方 式标明。 本人授权南京航空航天大学可以有权保留送交论文的复印件，允许 论文被查阅和借阅,可以将学位论文的全部或部分内容编入有关数据库 进行检索，可以采用影印、缩印或其他复制手段保存论文。 (必威体育官网网址的学位论文在解密后适用本承诺书) 作者签名： 日 期： 南京航空航天大学硕士学位论文 第一章 绪论 1.1 问题的提出 最优化方法是现代应用数学的一个重要分支，是一门应用广泛、实用性强的学科，它所研 究的问题是讨论在有限或无限个可行方案中什么样的方案最优以及怎样找出最优方案。它讨论 决策问题的最佳选择之特性，构造寻求最佳解的计算方法，研究这些计算方法的理论性质及实 际计算表现。最优化问题的一般形式为 min f (x ) (1.1) s .t . x ∈X , 其中 x 是决策变量，f (x ) 是目标函数，X ⊆ R n 为约束集或可行域。 最优化问题可分为约束优化问题和无约束优化问题。只要在问题中存在任何约束条件，就 称为约束优化问题。如果问题中无任何约束条件，即约束集 X R n ，则称(1.1)为无约束优化 问题。 本论文考虑求解的是一般大规模无约束优化问题，其形式如下： min f (x ) ， (1.2) x ∈R n 其中 f : R n → R 在开集 D ⊂ R n 上二次连续可微。 求解无约束优化问题(1.2)的方法有很多，根据选取有哪些信誉好的足球投注网站方向dk 时是否使用目标函数的导数， 可将无约束优化算法分别两类：一类称为解析法，包括最速下降法[1]、共轭方向法、共轭梯度法 [2] [3] [4] 、牛顿法和拟牛顿法 等；另一类称为直接法，不使用导数，如模式有哪些信誉好的足球投注网站法 等。 1.2 锥模型共轭梯度法简介 许多优化算法都采用二次函数模型去逼近原问题(参见文献[5])，但对于一些非二次性态强， 曲率变化剧烈的函数，用二次函数模型去逼近效果可能不一定好。针对二次模型的不足， Davidon [6]在 1980 年提出求解无约束优化问题的锥模型方法，它可以利用较多的函数和梯度信 息，其模型函数比二次模型更为一般。 锥模型是二次模型的推广，且比二次模型具有更多的自由度，能够较充分利用以前迭代点 的函数和梯度信息。近二十多年来，锥模型方法的研究有了很多有意义的进展（参见文献 [7]-[11] ），很多传统方法，如拟牛顿法、信赖域法等与之结合发挥了更好的优势(参见文献 [12]-[15])。 共轭梯度法是非线性优化中一类非常重要的数值方法，很多学者都对其做了深入的研究(参 见文献[16]-[18])。共轭梯度法算法简便，有较快的收敛速度和二次终止性[19]，存储量需求小， 因而能有效求解大规模优化问题。在实际应用中，共轭梯度法的数值表现也十分良好(参见文献