第2章 概率论与机器学习模型原理_第2节-古典模型与组合问题.pdfVIP

⼆、古典模型与组合问题

2.1古典概型：装箱问题、⽣⽇悖论学

2.1.1古典概型数

修

2.1.2装箱问题必

习

2.1.3⽣⽇悖论学

器

机

2.1.4对⽐总结：装箱问题vs⽣⽇悖论

-

壮

2.1.5代码实现：⽣⽇悖论概率随⼈数变化

大

s

o

c

2.1.6⼩结：为什么古典概型重要？

2.2排列组合与概率计算公式

2.2.1排列与组合：本质差别

2.2.2排列：如何排列出不同的顺序？

2.2.3组合：⽆关顺序，只关选中谁

2.2.4组合关系公式

2.2.5排列组合在概率计算中的使⽤

2.2.6信息论联系：熵与组合数

2.2.7Python可视化示例：组合数与概率图像

2.2.8⼩结：排列组合与概率公式

2.3熵与组合数

2.3.1什么是熵？学

2.3.2组合数与概率事件的联系数

2.3.3Stirling近似修

必

2.3.4连接：熵是组合数对数的归⼀化！习

学

2.3.5物理直觉vs信息直觉器

机

-

2.3.6信息熵与模型选择/特征选择的联系

壮

大

s

2.3.7Python实现：组合数vs熵对⽐图像

o

c

2.3.8⼩结

2.4应⽤：特征选择中的信息增益计算

2.4.1背景动机：为什么我们需要“选择特征”？

2.4.2熵：不确定性的量度