第一讲_分类与回归问题第一讲_分类与回归问题.pptVIP

分类问题的描述 分类问题：根据给定的训练集， 其中 要求寻找 上的决策函数 以便能用决策函数 “较好地”推断任一模式相对应的 值。 从数学的角度看分类问题 已知： （1）函数的值域为有限个离散点 （2）函数在某些点上的函数值。 求解：寻找一个函数能较好地预测其他点上的函数值 第二部分 回归问题 回归问题的描述 回归问题的类型 回归问题的求解方法 回归问题的描述 回归问题的描述 回归问题的描述 回归问题：根据给定的训练集， 其中 要求寻找 上的决策函数 以便能用决策函数 “较好地”推断任一模式相对应的 值。 从数学的角度看分类问题 已知： （1）函数的值域为整个实数域； （2）函数在某些点上的函数值。 求解： 寻找一个函数能较好地预测其他点上的函数值。 回归问题与分类问题的关系 分类： 回归： 因此回归可以看成是分类问题的推广，可以看成是类别数为不可数时的分类问题。但我们不能以此简单地认为回归问题比分类问题难，事实上由于回归问题的值域为整个实数域，常常更好处理。 回归问题的求解方法 插值方法 曲线拟合方法 最小二乘法： 偏差平方和最小 最小ε带：偏差最大最小（可以变为两 类问题求解） 插值与拟合 结束 * 图5 线性回归问题 图6 非线性回归问题 图6插值:精确通过给定点;拟合:不需精确通过给定点 图7 最小ε带：偏差最大最小 图8 最小ε带 转换为两分类问题 *