不平衡数据采样方法的对比学习.pdfVIP

软件时空 文章编号：1008—0570(2011)12-0155—03 不平衡数据采样方法的对 比学习 Comparativestudyofre-samplingm ethodsforimbalanceddatasets (1．福建师范大学；2．福建省侨兴轻工学校)王晓娟 1,2郭躬德 WANGXiao-juan GUO Gong—de 摘要：不平衡数据的研 究是近年来数据挖掘 的一大研 究．热点，针对不平衡数据的众多研究方法 中，重采样是一个重要的研 究 方向。重采样的方法多种多样，本文从 中选取 了10种不同的重采样方法，通过对其进行对 比学习，从实验 中得到一些有益的 结论：在不同的数据集上，过采样方法比欠采样方法更能取得较好的效果；过采样的实验结果也优于将过采样与欠采样结合 的方式 。 关键词：不平衡数据；重采样；过采样；欠采样}对E匕学习 中图分类号：TP311 文献标识码：A Abstract：Study onimbalanced data setsiSa hotresearch topic recently in dataminingdomain．Re—samplingisakeyresearch di— rection among many approachesforimbalanced datasets．There aremany differentmethodsfordealing with imbalanced data sets． Ten differentRe—sampling methodsare chosen forcomparative study．Some beneficiaIresuhsare obtained from experiments that over-sampling methodsperform betterthan under-sampling methods on differentdata sets．Over-sampling methodsare alsobetter than anensemblemethodofover—samplingand under—sampling． Keywords：imbalanceddatasets；re-sampling；over—sampling；under-sampling；comparativestudy 1引言 少数类样本的识别率较低，这样就会导致少数类样本数据被错 分为多数类的几率增大。因此对于不平衡数据的分类戚们不能 不平衡数据集的主要特点是数据集中某一类样本的数 目 再用分类精度作为其评价标准，而应该引入其他评价标准。对于 明显少于其他类样本的数 目。针对不平衡数据集，利用传统的分 不平衡数据的评价标准．常用的有以下几种： 类方法来进行分类，结果明显偏 向多数类，而往往人们更关注的 f11少数类的F-value值 却是少数类，而且少数类的错分代价也很大，如把入侵数据当成 ． (1+p)recallprecision — ValUe= ——— ——————————————一 正常数据来处理，将可能造成不可挽回的损失。因此需要提高少 卢 recall+precision (1) 数类的分类精度，这使得解决不平衡数据问题成为近年来数据 公式 1中．对于给定的二类问题 的混淆矩阵(gL表 1)Preci— 挖掘的一个研究热点。对于不平衡数据的研究萁 中一个重要的 sion=TP／(TP+FP)，Reeall=TP／(TP+FN) 研究方向就是对原始数据进行重采样。重采样包括过