第5章 凸优化_第3节 凸函数的组合性质与不等式工具.pdfVIP

三、凸函数的组合性质与不等式⼯具

3.1凸函数的封闭性：加法、最⼤值、线性变换、复合函数学

3.1.1加法封闭性数

修

3.1.2最⼤值封闭性必

习

3.1.3仿射变换封闭性学

器

3.1.4函数复合封闭性机

-

壮

3.1.5⼩结大

s

o

c

3.2Jensen不等式：图像化理解与函数凸性的本质刻画

3.2.1Jensen不等式的基本形式

3.2.2多点形式（离散形式）

3.2.3连续形式（积分形式）

3.2.4本质刻画与⼏何意义

3.2.5应⽤案例：随机变量的Jensen不等式

3.2.6⼩结

3.3Jensen不等式在机器学习中的应⽤：KL散度、EM算法等

3.3.1KL散度与Jensen不等式的关系

3.3.2EM算法中的Jensen不等式

3.3.3图像化直觉

3.3.4推导计算案例学

3.3.5⼩结数

3.4进⼀步理解凸性的传递与保留性质修

必

3.4.1凸性的传递性定义：什么是“传递”？习

学

3.4.2复习：已知封闭运算（来⾃3.1）器

机

-

3.4.3更⼀般的传递情形：极⼤化、点集构造、优化函数族

壮

大

s

3.4.4凸复合规则（重要）

o

c

3.4.5计算案例分析：最⼤值与复合函数

3.4.6⼩结

三、凸函数的组合性质与不等式⼯具

3.1凸函数的封闭性：加法、最⼤值、线性变换、复合函数

3.1.1加法封闭性学

命题数