《机器学习及其应用》课件 第三章 监督学习.pptxVIP

计算机应用技术研究所1机器学习Machine Learning 汪荣贵 教授合肥工业大学 计算机与信息学院 2023/5/19计算机应用技术研究所2第3章 监督学习 2023/5/19 本章学习内容 决策树模型2 贝叶斯模型3 线性模型1 支持向量机4 2023/5/19计算机应用技术研究所4线性模型 2023/5/19计算机应用技术研究所5 线性模型 模型结构 线性回归 线性分类 ?2023/5/19 模型结构 ?2023/5/19 模型结构 ?2023/5/19 模型结构 2023/5/19计算机应用技术研究所9 模型结构 线性回归 线性分类 线性模型 2023/5/19 线性回归? 2023/5/19 线性回归?? 2023/5/19 线性回归? 2023/5/19 线性回归? 2023/5/19 例题【例题3.1】 某企业某商品月广告费用与月销售量数据如表3-1所示，试通过线性回归模型分析预测这两组数据之间的关系。 1234567891010.9512.1413.2213.8715.0616.3017.0117.9319.0120.0111.1810.4312.3614.1515.7316.4018.8616.1318.2118.371112131415161718192021.0422.1023.1724.0725.0025.9527.1028.0129.0630.0522.6119.8322.6722.7025.1625.5528.2128.1228.3229.18表3-1 月广告费与月销售量数据 2023/5/19 例题【解】 首先将表中的样本数据可视化，如下图所示，不难发现它们基本上成直线排列。? 2023/5/19 例题? 2023/5/19 多重共线现象? 岭回归? 岭回归? 岭回归? 2023/5/19计算机应用技术研究所21 模型结构 线性回归 线性分类 线性模型 线性分类线性分类：将线性回归模型输出的连续值进行离散化。构建线性分类器的关键：如何将线性回归模型输出的连续性取值进行离散化。 线性分类跃阶函数 ：将线性回归模型输出值的取值范围划分为有限个不相交区间，每个区间表示一个类别，由此实现模型连续值输出的离散化。激活函数：克服了跃阶函数的不连续性，需要一些具有良好数学性质的激活函数替代跃阶函数，实现对连续值的离散化。 二值分类?二值分类的基本流程 二值分类? 激活函数?? 激活函数? 二值分类? 二值分类? 二值分类? 例题? 例题1-0.01814.0530211.2179.597041-0.4463.29712-1.3954.662122-0.7339.0980421.0426.10513-0.7526.539023-3.642-1.618143-0.61910.3204-1.3227.1530240.3163.5231441.1520.548150.42311.0550251.4169.6190450.8282.676160.4077.067126-0.3863.989146-1.23810.549070.66712.7410271.9853.230147-0.683-2.16618-2.4606.867128-1.693-0.5571480.2295.922190.5699.549029-0.57611.778049-0.9611.555010-0.02710.428030-0.346-1.6791500.49310.9930 表3-2 某产品质量指标 例题110.8506.920131-2.1242.6721510.1858.7210121.34713.1750320.5578.295152-0.35610.3260131.1763.1671331.22511.587053-0.3988.058014-1.7819.098034-1.348-2.4061540.82513.7303015-0.5675.7491351.1974.9521551.5075.0281160.93161.5891360.2759.5440560.0996.837117-0.0246.1511370.4719.332057-0.34410.717018-0.0362.690138-1.8899.5430581.7867.718119-0.1970.444139-1.52812.15059-0.91911.560201.0145.754140-1.18511.309060-0.3644.7471 例题? 线性判别分析基本思想：在特征空间中寻找一个合适的投影轴或投影直线，并将样本的特性向量投影到该投影直线，使得样本在该投影直线上易于分类。目标：同类样例的投影点尽可能接近；异类