大数据经典算法adaboost 讲解精选.pptVIP

点击添加文本 点击添加文本 点击添加文本 点击添加文本 添加文本 点击添加文本 点击添加文本 点击添加文本 * 点击添加文本 点击添加文本 点击添加文本 点击添加文本 添加文本 点击添加文本 点击添加文本 点击添加文本 点击添加文本 点击添加文本 点击添加文本 * 点击添加文本 点击添加文本 点击添加文本 点击添加文本 添加文本 点击添加文本 点击添加文本 点击添加文本 点击添加文本 点击添加文本 * 点击添加文本 点击添加文本 点击添加文本 点击添加文本 添加文本 点击添加文本 点击添加文本 点击添加文本 * 点击添加文本 点击添加文本 点击添加文本 点击添加文本 添加文本 点击添加文本 点击添加文本 点击添加文本 点击添加文本 点击添加文本 点击添加文本 点击添加文本 * 添加标题 点击添加文本 点击添加文本 点击添加文本 点击添加文本 添加文本 点击添加文本 点击添加文本 点击添加文本 点击添加文本 * * 会议基调 年会视频：http:// * 会议主题 1、携手超越，驭领未来 2、你在我心里面 ---用心创造新未来 * 会议主体环节 —年度总结：由公司各职能部门、高层做09年总结报告，传递10年度公司战略发展规划以及嘉许09年度优秀员工 —感谢晚宴：让员工在享受晚宴的同时，感受公司对他们一年来付出的感谢；让嘉宾感受耀光纺织的关注和企业文化 —员工才艺秀：加强员工互动，展现员工风采 * AdaBoost * 组员：朱航，杨帅，王永胜，曹宏武，曾德清，周峰 Adaboost 算法 算法分析 算法步骤 训练过程 举例说明 算法介绍 * Adaboost 算法介绍 Idea AdaBoost (Adaptive Boosting, R.Scharpire, Y.Freund, ICML, 1996) Adaboost是一种迭代算法，其核心思想是针对同一个训练集训练不同的分类器（弱分类器），然后把这些弱分类器集合起来，构成一个更强的最终分类器（强分类器）。 * Adaboost 算法介绍 Adaboost算法本身是通过改变数据分布来实现的，它根据每次训练集之中每个样本的分类是否正确，以及上次的总体分类的准确率，来确定每个样本的权值。将修改过权值的新数据集送给下层分类器进行训练，最后将每次得到的分类器最后融合起来，作为最后的决策分类器。 * Adaboost 算法介绍 目前，对Adaboost算法的研究以及应用大多集中于分类问题，同时近年也出现了一些在回归问题上的应用。 就其应用Adaboost系列主要解决了：两类问题、多类单标签问题、多类多标签问题、大类单标签问题，回归问题。 它用全部的训练样本进行学习。 使用adaboost分类器可以排除一些不必要的训练数据特征，并将关键放在关键的训练数据上面。 * Adaboost 算法分析 该算法其实是一个简单的弱分类算法提升过程，这个过程通过不断的训练，可以提高对数据的分类能力。 1、先通过对N个训练样本的学习得到第一个弱分类器； 2、将分错的样本和其他的新数据一起构成一个新的N个的训练样本，通过对这个样本的学习得到第二个弱分类器； 3、将1和2都分错了的样本加上其他的新样本构成另一个新的N个的训练样本，通过对这个样本的学习得到第三个弱分类器 4、最终经过提升的强分类器。即某个数据被分为哪一类要通过......的多数表决。 * Adaboost 算法分析 对于boosting算法，存在两个问题： 　　 1. 如何调整训练集，使得在训练集上训练的弱分类器得以进行； 　　 2. 如何将训练得到的各个弱分类器联合起来形成强分类器。 * Adaboost 算法分析 针对以上两个问题，AdaBoost算法进行了调整： 1. 使用加权后选取的训练数据代替随机选取的训练样本，这样将训练的焦点集中在比较难分的训练数据样本上； 　　 2. 将弱分类器联合起来，使用加权的投票机制代替平均投票机制。让分类效果好的弱分类器具有较大的权重，而分类效果差的分类器具有较小的权重。 * Adaboost 算法分析 　 AdaBoost算法是Freund和Schapire根据在线分配算法提出的，他们详细分析了AdaBoost算法错误率的上界，以及为了使强分类器达到错误率，算法所需要的最多迭代次数等相关问题。 与Boosting算法不同的是，AdaBoost算法不需要预先知道弱学习算法学习正确率的下限即弱分类器的误差，并且最后得到的强分类器的分类精度依赖于所有弱分类器的分类精度，这样可以深入挖掘弱分类器算法的能力。 * Adaboost 算法分析 AdaBoost算法中不同的训练集是通过调整每个样本对应的权重来实现的。开始时，每个样本对应