优化设计第02章-2数学基础.pptVIP

第四节 无约束优化问题的极值条件 三、极值的充分条件 K-T条件 K-T条件的梯度形式 同时具有等式和不等式约束的K-T条件 K-T条件是多元函数取得约束极值的必要条件,以用来作为约束极值的判断条件，又可以来直接求解较简单的约束优化问题。 三、K-T条件应用举例 K-T条件是多元函数取得约束极值的必要条件,既可用来作为约束极值的判断条件，又可以用来直接求解较简单的约束优化问题。 解: K-T条件例题1 图解 本章结束了… * * 在x =x0处取得极值的必要条件为x0点必须为驻点，即 在x=x0处取得极值充分条件... 一、 一元函数极值的必要条件 二、 多元函数极值的必要条件 1. F(x)在x*处取得极值，其必要条件是: 即在极值点处函数的梯度为n维零向量。 例： 在 处梯度为 但 只是双曲抛物面的鞍点，而不是极小点。 为了判断从上述必要条件求得的x*是否是极值点，需建立极值的充分条件。 根据函数在x*点处的泰勒展开式，考虑上述极值必要条件，可得相应的充分条件。 海赛（Hessian）矩阵 正定，即各阶主子式均大于零，则x*为极小点。 海赛（Hessian）矩阵 负定，即各阶主子式负、正相间，则x *为极大点。 对于等式约束优化问题数学模型： 　　　　　min　　f (x) 　　　　　　s.t.　 hj (x)=0 (j=1,2,…,m) 有两种处理方法，即： 1、消元法（降维法） 2、拉格朗日乘子法（升维法） 第五节 等式约束优化问题的极值条件 若将这些关系式代入到目标函数中，从而得到只含xl+1,　xl+2,…,xn共n-l个变量的函数，这样就可以利用无约束优化问题的极值求解。 由l个等式约束方程可以得到表达式 → 即将n个变量中的前l个变量用其余n-l个变量表示。 一、消元法 即通过减少变量将等式约束优化问题变成无约束优化问题。 对于n维情况： min　　f (x) 　　　　　　　 s.t. 　hk(x1,x2, … ,xn)=0　 (k=1,2,…,l) 通过增加变量将等式约束优化问题变成无约束优化问题。 对于具有l个等式约束的N维优化问题： min　f(x) 　 s.t. 　hk(x)=0 (k=1, 2, … , l) 为了求出f(x)的可能极值点x*=[x1* x２*… xn*]T，引入拉格朗日乘子?k (k=1, 2, … , l) ，并构成一个新的目标函数： 把F(x,?)作为一个新的无约束条件的目标函数来求解它的极值点，所得结果就是在满足约束条件hk(x)=0的原目标函数f(x)的极值点。 二、拉格朗日乘子法 F(x,?)具有极值的必要条件： 由此可得n+l个方程，从而解得x=[x1 x２…xn]T和?k(k=1,2,…, l) 共n+l个未知变量的值。 由上述方程组求得的x*=[x1* x２*…xn*]T是函数f(x)极值点的坐标值。 用拉格朗日乘子法计算在约束条件下h(x1,x2)=2x1+3x2-6=0的情况下，目标函数f(x1,x2)=4x12+5x22的极值点坐标。 拉格朗日乘子法解等式约束 例题 解：拉格朗日乘子函数为 F(x,λ)=4x12+5x22+λ(2x1+3x2-6)， 则 连立求解得到：x1=1.071，x2=1.286，λ=-30/7 即极值点为 x1*=1.071，x2*=1.286 在工程上大多数优化问题都可表示为具有不等式约束条件的优化问题，故研究不等式约束极值条件是很有意义的。 不等式约束的多元函数极值的必要条件是库恩-塔克条件，它是非线性优化问题的重要理论。 不等式约束优化模型为： 第六节 不等式约束优化问题的极值条件 为了便于理解，先分析一元函数在给定区间上的极值条件。 h1(x,a1)=g1(x)+a12= a-x+a12 = 0 h2(x,b1)=g2(x)+b12=x-b+b12=0 利用拉格朗日乘子法可得到上述优化问题的拉格朗日函数： F(x,a1,b1,u1,u2)=f(x)+u1h1(x,a1)+u2h2(x,b1) =f(x)+u1(a-x+a12)+u2(x-b+b12) 其中u1和u2是对应于不等式约束条件的拉格朗日乘子，应满足非负的要求， 即： u1=0 u2=0 一、一元函数在给定区间上的极值条件 对于一元函数f(x)在给定区间[a,b]上的极值问题，首先引入松弛变量变量a1和b1将不等式约束变成等式约束，即： 根据拉格朗日乘子法，此问题