第二章 优化设计.ppt

第二章 优化设计 【例2】用K－T条件判断点 是否是下列约束优化问题的约束极值点。 4.可行方向法的迭代步骤 1）给定初始内点X(0)，收敛精度ε和约束允差δ，置k=0； 2）确定点X(k)的起作用约束集合 当Ik为空集（表示约束都不起作用），且点X(k)在可行域内时，如果 ，则令 ,终止计算;否则,令 ，转（5）； 当为非空时（表示有起作用约束），转（3）； 3）收敛判断：点X(k)是否满足k—t条件； 令 ，解出 若 ，输出 ，终止迭代； 若 ，转4） 4）求解线性规划问题 得到S*，令S(k)=S*（最佳下降可行方向）； 5）在方向S(k)上进行约束一维有哪些信誉好的足球投注网站得点X(k+1)，令k=k+1，转（2）。 三、惩罚函数法 惩罚函数法是求解约束优化问题的间接法的一种。它是将目标函数和约束条件构造成一个新的目标函数，将约束最优化问题转化为无约束最优化问题，然后利用各种有效的无约束最优化解法求解而得到约束最优化的近似解。这是一种使用广泛的有效的间接解法。 1.惩罚函数法的基本思路 将不等式约束 、等式约束 和待定系数 （加权因子）经加权转化后，与原目标函数f(X)一起组成一个新的目标函数 （惩罚函数），然后对它求最优解。 把其中不等式和等式约束函数值经加权处理后，和原目标函数结合新的目标函数: 惩罚函数 惩罚函数中的后两项称为惩罚项。惩罚项满足下列要求： 当满足约束条件时，惩罚项的值很小或为0； 当不满足约束条件时，惩罚项的值很大，即对不满足约束条件的点的函数值进行惩罚。 新目标函数中， 称为惩罚因子或加权因子，它们是一系列的按一定规则变化的值。当按照一定的法则改变 的数值时，就构成了一系列的无约束优化问题，求解这些优化问题可得到一系列的无约束的迭代点，使其一步步迭代，不断地逼近原约束优化问题的最优解。 数学上可以证明：当惩罚函数满足 时，上述惩罚函数在 过程中产生的极小点序列 将逐渐逼近于原约束优化问题的最优解。即 惩罚函数法又称序列无约束极小化方法，常称SUMT（ sequential unconstrained minimization technique）。根据惩罚项的构成形式，惩罚函数法可分为： 外点惩罚函数法 内点惩罚函数法 混合惩罚函数法。 2.外点惩罚函数法 外点惩罚函数法构造惩罚函数的形式为： 对于约束优化问题 梯度法迭代过程中，当迭代点离理论极小点较远时，一次迭代的函数值下降量大。迭代点离极小点越近，函数值下降的速度就越慢。因此，梯度法常与其它优化方法结合使用。即第一步采用梯度法，后面采用其它的方法确定有哪些信誉好的足球投注网站方向。 梯度法的收敛速度与目标函数的性质有关。如果目标函数的等值线（面）为同心圆（球），则无论从哪里出发，只需要一次有哪些信誉好的足球投注网站就能达到极小点。 二、牛顿法 1.基本牛顿法 设目标函数是连续二阶可微的，将函数在X(k)点按泰勒级数展开后，取到二次项 将上式展开，得 对X求导，设X(K+1)是极小点，并令一阶导数为0，得 上式即为基本牛顿法的迭代公式，其中S(k)称为牛顿方向。 【例2】用基本牛顿法求下列函数的极小值。 基本牛顿法的特点： 对于二次函数而言，取到二次项的泰勒展开式就是目标函数本身。如果二阶导数矩阵正定，那么按基本牛顿法求出的X(1)就是目标函数的精确极小点。因此，对正定二次函数而言，牛顿法只需一次迭代就可以达到精确极小点。 基本牛顿法迭代时步长总是为1，对非二次函数、非正定函数而言，一次迭代并不能达到极小点，有时还可能失效（即总是不能收敛）。 2.阻尼牛顿法 基本牛顿法对非正定函数失效是因为沿牛顿方向有哪些信誉好的足球投注网站时，步长总是为1，这并不能保证找到的下一个迭代点是该方向上的极小点。为此，增加步长因子α和一维有哪些信誉好的足球投注网站过程。此时的牛顿法称为阻尼牛顿法。 阻尼牛顿法比基本牛顿法多一个一维有哪些信誉好的足球投注网站过程 阻尼牛顿法迭代步骤： 1）选取初始点X(0)，计算精度ε ，令k=0 ； 2）计算 ； 3） 4） 5）按一维有哪些信誉好的足球投注网站结果，计算 6）收敛判断， A.若 ，则X(k+1)为近似最优点，停止迭代，输出最优