最优化理论第次.ppt

5、无约束问题最优化的基本问题5.4线性有哪些信誉好的足球投注网站中的有哪些信誉好的足球投注网站方向(3)拟牛顿方向:问题推导:加、减项则有：则有：第30页，共32页，星期日，2025年，2月5日5、无约束问题最优化的基本问题5.4线性有哪些信誉好的足球投注网站中的有哪些信誉好的足球投注网站方向(3)拟牛顿方向:两种流行求解方法:第31页，共32页，星期日，2025年，2月5日第1页，共32页，星期日，2025年，2月5日1、课程简介最优化理论与方法—应用性最强的数学分支--在众多方案→最优方案应用领域--工程设计、资源分配、生产安排、原料配比、城建规划、军事领域、现代网络等等学科历史17世纪，Newton提出极值问题Lagrange乘数法1847Cauchy最速下降法1939苏联数学家提出了线性规划-解决下料、运输问题…20世纪40年代，Dantzig提出单纯型方法→独立学科第2页，共32页，星期日，2025年，2月5日1、课程简介例1生产计划问题某工厂用4种资源→3种产品如何生产利润最大?求解:约束:第3页，共32页，星期日，2025年，2月5日1、课程简介例1生产计划问题某工厂用4种资源→3种产品数学描述：第4页，共32页，星期日，2025年，2月5日1、课程简介例2结构设计问题两个构件组成的对称桁架求解:约束1:2PY-Y剖面T约束2:第5页，共32页，星期日，2025年，2月5日1、课程简介例2结构设计问题2PY-Y剖面T约束2:约束3:钢管不弯曲，即压应力不超过临界应力第6页，共32页，星期日，2025年，2月5日1、课程简介数学描述：第7页，共32页，星期日，2025年，2月5日2、最优化的几个概念2.1问题描述例1x1第8页，共32页，星期日，2025年，2月5日2、最优化理论与方法的几个概念2.2连续优化与离散优化a有约束优化2.3有约束优化与无约束优化根据目标函数及约束方程:*线性、非线性、凸优化*变量个数：LargeorSmall*方程光滑性：可微、不可微求解方法:二次规划、罚函数、置信域等b无约束优化求解方法:一维有哪些信誉好的足球投注网站、牛顿法、共轭梯度法等第9页，共32页，星期日，2025年，2月5日2、最优化理论与方法的几个概念2.4全局优化与局部优化难题非线性问题的解一般为局部解第10页，共32页，星期日，2025年，2月5日2、最优化理论与方法的几个概念2.5随机优化与确定性优化多出现于经济、金融行业，用统计及概率论预测2.6优化算法迭代-----要求具有：鲁棒性，效率，精度第11页，共32页，星期日，2025年，2月5日实值函数：3、数学准备3.1向量范数和矩阵范数定义：向量范数则x的常用范数有：第12页，共32页，星期日，2025年，2月5日A为mXn矩阵3、数学准备3.1向量范数和矩阵范数定义：矩阵范数则A的常用范数有：矩阵范数性质第13页，共32页，星期日，2025年，2月5日3、数学准备3.2序列的极限定义1定义2定义3定理1第14页，共32页，星期日，2025年，2月5日3、数学准备3.3梯度、Hesse矩阵、Taylor展开（1）梯度：（2）Hesse矩阵：第15页，共32页，星期日，2025年，2月5日3、数学准备3.3梯度、Hesse矩阵、Taylor展开（3）Taylor展开：第16页，共32页，星期日，2025年，2月5日4、凸集、凸函数4.1凸集凸集定义：第17页，共32页，星期日，2025年，2月5日4、凸集、凸函数4.1凸集凸集性质：凸锥定义：多面集定义：第18页，共32页，星期日，2025年，2月5日4、凸集、凸函数4.1凸集极点定义：极方向定义：第19页，共32页，星期日，2025年，2月5日4、凸集、凸函数4.2凸函数定义：凸函数凹函数非凸凹函数第20页，共32页，星期日，202