最优化：引言.ppt

例题 ● ● ● ● ● 注意： ● ● 例题 凸集的分离性质： 直线或超平面 详见 陈宝林《最优化理论与算法 》第二章 清华大学出版社 下面做简单介绍 最基本的分离是：点与凸集的分离 定理2 (Farkas 定理) 由上面的定理推出约束优化问题的一阶最优性条件 推广： 二、 凸函数 先观察三个图形： 凸函数的图形 凹函数的图形 非凸非凹函数的图形 显然 一致凸是严格凸，严格凸函数是凸函数 凸函数的定义 凸函数的简单性质 推广： 思考： 凸函数的判别： 其它命题证明： * 最优化 主讲：刘陶文 课件制作：刘陶文 唯楚有材 於斯为盛 学好最优化，走遍天下都不怕 教材： 李董辉等，《数值最优化算法与理论》，科学出版社 参考资料 ： ※袁亚湘，孙文瑜， 《最优化理论与方法》， 科学出版社 ※陈宝林， 《最优化理论与算法》，清华大学出版社 ※薛嘉庆， 《最优化原理与方法》，冶金工业出版社 主要介绍非线性规划的理论与求解方法 一、基本概念与基础知识 (第一章、第二章) 二、最优性条件 (第二章、第九章) 三、各类算法 (其它各章) 第一章 引言 第一节 最优化问题概述 第二节 凸集凸函数 先欣赏几个函数的图形 数学模型： 第一节 最优化问题概述 微积分中典型的极值问题 上面的两个极值问题虽然简单但代表经典最 优化的两类问题及其解法：无约束优化问题和约 束优化问题。但实际当中问题也许复杂得多，上 面的解法不一定行得通。而且对约束问题的驻点 是否是极值点的判断是一件很困难的事情。 ● ● ● ● ● 最优解的概念 ● ● ● ● 关于多元函数的Taylor展开 梯度的意义 ● 上升方向 下降方向 变化率为零的方向 等值线(面) 几个常用的梯度或Hessian矩阵公式： 思考 常用的多元函数的二阶Taylor展开式： 第二节 凸集和凸函数 一、凸集 二、凸函数 一、凸集 ● ● ● ● 凸集的运算性质 *