周志华版《机器学习》（西瓜书）各章节公式与算法步骤对照表.pdfVIP

《机器学习各章节公式与算法步骤对照

表》

以下是周志华《机器学习》（西瓜书）各章节核心公式与关键算法步骤对照表，按章节顺序整

理，方便快速查阅和复习。表格包含公式名称、数学表达式、算法核心步骤及简要说明，符号

与书中保持一致。

第一部分：基础与监督学习

章节核心公式关键算法步骤说明

21.-

第章：模型评估准确率：模型评估方法：留核心是泛化能力评

与选择\text{Accuracy}\frac{TP出法、交叉验证法、估与过拟合缓解。

+TN}{TP+TN+FP+自助法。-性能度

FN}2.查准率/召回率：P量：混淆矩阵、P-R

\frac{TP}{TP+FP},曲线、ROC曲线。-

\quadR\frac{TP}{TP+

正则化：L1/L2惩罚

FN}3.ROC曲线下面积

项。

（AUC）：\text{AUC}

\int_0^1\text{TPR}(FPR)

\,dFPR

第3章：线性模型1.线性回归：f(x)w^Tx-最小二乘法求解线线性模型是后续非

+b2.逻辑回归：f(x)性回归参数。极大线性模型的基础。-

\frac{1}{1+e^{-(w^Tx+似然估计逻辑回归参

b)}}3.线性判别分析数。-LDA投影方向

（LDA）：\mathbf{w}^*优化。

\arg\max_{\mathbf{w}}

\frac{\mathbf{w}^T

\mathbf{S}_b

\mathbf{w}}{\mathbf{w}^T

\mathbf{S}_w\mathbf{w}}

41.D^v}{

第章：决策树信息增益：

$$\text{Gain}(D,a)

\text{Ent}(D)-

\sum_{v1}^V\frac{

51.BP-BP

第章：神经网络算法误差项：输出前向传播计算输算法是神经网

层：\delta_j\hat{y}_j(1出。反向传播更新络训练的核心。-

-\hat{y}_j)(y_j-\hat{y}_j)权重：w_{hj}

隐层：\delta_hb_h(1-\leftarroww_{hj}+

b_h)\sum_{j1}^l\delta_j\eta\delta_jb_h-过

w_{hj}2.激活函数：拟合缓解：早停、正