更新 工程优化方法及应用 第二章(6学时).pptVIP

正定判定定理 负定判定定理 序列收敛 Z=f(x,y) 的图形是一条曲面。 f(x,y)=c 的图形称为等高线或等值线。 令c=c1,c2, …等一系列的值，得到一族等高线。 从等高线族的图形上大致可以看出函数值的变化情况。（利用二维观察三维） 注：根据泰勒公式 即 所以，该问题为凸规划。 半正定，凸函数 半正定，凸函数 如图所示，该问题最优解（最小点）在x*点取得。 练习 验证下列（MP）是凸规划 课后作业 P38 2.19 2.20(1,3) 2.28 2.29 第二章 基本概念和理论基础 本章主要内容： §1 代数基础：范数、正定性、序列收敛 §2 多元函数分析基础： Hesse矩阵、方向导数、中值公式 §3 多元函数的极值 §4 等高线 §5 凸分析基础：凸集、凸函数、凸规划 §6 最优化算法的结构 n元函数 求解无约束优化问题 §6 最优化算法的结构 定理(必要条件) 设 (1) 为 D 的一个内点; (2) 在 可微; (3) 为 的极值点; 则 。 定理(充分条件) 设 (1) 为 D 的一个内点; (2) 在 二次连续可微; (3) ; (4) 正定; 则 为 的严格局部极小点。 对一般n元函数，由条件 得到一非线性方程组，解它相当困难。 对于不可微函数，当然谈不上使用这样的方法。 迭代算法 根据一阶必要条件，令函数梯度等于零，求得驻点； 然后用充分条件进行判别，求出所要的最优解。 大致想法：为了求函数 f(x) 的最优解， 首先给定一个初始估计 然后按某种规则(即算法)找出比 更好的解 再按此种规则找出比 更好的解 如此即可得到一个解的序列 若这个解序列收敛于该问题的最优解x*，则算法有效。 无约束优化问题 (P1)—— 约束优化问题问题 (P2)—— 迭代法的基本思想 步长因子 有哪些信誉好的足球投注网站方向：可行方向、下降方向 迭代法的基本思想：希望找到迭代序列{xk}，其迭代格式为 定义：（可行方向）设 D 为可行域，在点 处，对于非零向量 d ，若存在实数 ，使得 ， 则称 d 为 f(x) 在 点的可行方向。 xk xk+1 dk ak 当 时，总存在 使得当 时，恒有 ，我们称满足 的方向 为 在 处的一个下降方向。 定义：（下降方向）在点 处，对于非零向量 d ，若存在实数 ，使得 ， 则称 d 为 f(x) 在 点的下降方向。 Step 4 检查得到的新点 是否为极小点。 若是，则停止迭代。 否则，令 转回 Step 2 继续进行迭代。 Step 3 从 出发，沿方向 ,求步长 产生下一迭代点 Step 1 选定某一初始点 ，并令 Step 2 确定有哪些信誉好的足球投注网站方向 迭代法的步骤 找初始点 判断当前点是否满足终止条件 下一个迭代点 最优解 (a) 找初始点 (b) 终止条件 (c) 迭代格式 找步长 和下降方向 确定下一个迭代点 是 否 循环 迭代法的框架分析 算法的决定因素：迭代格式。不同的步长因子和不同的有哪些信誉好的足球投注网站方向就构成了不同的算法：第三章重点研究如何确定步长因子，后面的章节研究如何确定有哪些信誉好的足球投注网站方向。 算法的收敛性 定义：如果仅当初始点 充分靠近最优解 时，由算法产生的点列 才收敛到 ，则称算法局部收敛； 如果对任意的初始点 充分靠近最优解 时，由算法产生的点列 均能收敛到 ，则称算法