有限标签下的数据流分类方法研究.pdfVIP

摘要

随着互联网的爆发式增长和信息社会的快速发展，许多行业都产生了大量的数

据流，如医疗诊断、网上购物、交通流量检测、卫星遥感等。与传统的静态数据不同，

数据流通常呈现实时性、连续性、快速变化以及无限性等特征，这使得数据流挖掘成

为一个亟待解决的问题。数据流挖掘的关键研究领域之一是数据流分类，其主要任务

是从持续涌入的数据流中快速捕获概念漂移并及时调整分类模型。极限学习机具有

训练速度快和泛化性能好的优点，这使其成为处理数据流分类问题的理想选择。数据

流分类任务通常伴有标签成本昂贵、概念漂移和多类不平衡等问题，传统数据流分类

方法通常需要所有样本的标签，人工标注成本十分高昂，这在有限标签的情况下是不

现实的，在有限标签的情况下只有部分样本具有标签；多类不平衡会导致分类模型对

少数类样本的分类性能下降；概念漂移会使原有的分类模型不适用于新的数据分布。

针对以上问题，本文提出了基于极限学习机的非平衡数据流分类方法。不同数据流的

特征数、类别数不同，往往适合的模型复杂度也不同，然而基于极限学习机的数据流

分类方法通常提前指定隐层节点数且用于不同数据流的分类，这显然不符合现实需

求；基于单分类器的数据流分类方法容易过度拟合训练数据，但在与训练数据相似度

不高的数据上分类效果不佳，从而导致基于单分类器的数据流分类方法鲁棒性和稳

定性较差。针对以上问题，本文进一步提出了基于集成学习的非平衡数据流分类方

法。

本文的具体工作内容如下：

（1）针对数据标签获取成本高、类别不平衡及概念漂移等问题，提出了一种基

于极限学习机的非平衡数据流分类方法。首先，为了筛选出难分类和少数类样本，定

义了预测概率差值与信息熵相结合的样本预测确定性度量，提出了基于主动学习的

不确定性标签请求策略，兼顾了预测概率大的值之间的差异和预测概率的整体分布；

其次，定义了基于类不平衡比率和样本预测误差的样本重要性度量，使极限学习机的

更新兼顾了类不平衡比率和样本的预测误差；最后，提出了基于概念漂移指数的分类

器的更新与重构机制，使得所提出的数据流分类框架可以适用于4种不同类型的概

念漂移。

（2）针对单分类器稳定性差和极限学习机隐层节点数提前指定等问题，提出了

基于集成学习的非平衡数据流分类方法。首先，提出了基于样本分类均方误差的基分

类器加权机制，该机制通过计算基分类器对每类样本分类的均方误差，兼顾了多数类

和少数类的分类效果；其次，提出了极限学习机的自适应隐层节点数选择策略，根据

分类器对样本的分类性能自适应地选择最佳隐层节点数。

（3）开发了一个基于极限学习机的数据流分类系统。该系统具备数据流选择、

算法参数设置、概念漂移检测结果、输出分类结果和提供用户帮助等多项功能。

关键词：数据流分类；多类不平衡；极限学习机；概念漂移；有限标签；集成学习

ABSTRACT

WiththeexplosivegrowthoftheInternetandtherapiddevelopmentoftheinformation

society,manyindustrieshavegeneratedlargeamountsofdatastreams,suchasmedical

diagnosis,onlineshopping,trafficflowdetection,andsatelliteremotesensing.Unlike

traditionalstaticdata,datastreamsoftenpossesscharacteristicssuchasreal-time,continuity,

rapidchanges,andinfinity,makingdatastreammininganurgentproblem.Onekeyareaof

researchindatastreamminingisdatastreamclassification,whoseprincipaltaskisto

captureconceptdriftfromcontinuouslyincomingdatastreamsandtoprom