边界K邻近大样本支持向量机分类.pdfVIP

and ComputerEngineeringApplications计算机工程与应用 边界K邻近大样本支持向量机分类 奉国和 FENGGuo—he 华南师范大学经济管理学院信息管理系，广州510006 of and ChinaNormal Economics 510006，China College Management，SouthUniversity，Guangzhou E-mail：ghfeng@163．tom FENGGuo-he．ResearchOn scaleSVMclassificationbasedOn and large boundaryK-nearest．ComputerEngineering Applications。2009．4S(23)：15-17． Abstract：Theof much andslow willcomeforthfor VectorMachine(，SVM) memory trainingspeed Support problemoccupying with scale set．This forwarda K-NNSVM for vectorswith large boundary possiblesupport training paperputs algorithm，searching K——NNand SVMclassifierbasedonsuch showsthatmodified is vectors．Experiment algorithmtraining training support speed advanced． Vector Keywords：SupportMachine(SVM)；large-scalesamples；classification 摘要：针对大样本支持向量机内存开销大、训练速度慢的缺点，提出了一种改进的支持向量机算法。算法先利用KNN方法找出 可能支持向量，然后利用SVM在可能支持向量集上训练得到分类器。实验袁明改进算法训练速度提高明显。 关键词：支持向量机；大样本；分类 文章编号：1002—8331(2009)23-0015—03文献标识码：A 中图分类号：7n)316 DOI：10．3778／j．issn．1002—8331．2009．23．005 1引言 存的困难，但这些算法为寻找最优化解需要反复地迭代，收敛 支持向量机对小样本表现出良好的性能，但对大样本则出 速度较慢【lol。约减训练集的基本策略是从大训练集中寻找有代 现如下不足：(1)占用很多内存；(2)iJll练速度慢，训练速度与内表性的样本代表整个训练集，构造分类器，可以极大减少训练 存开销成为训练大样本SVM的—个主要瓶顼q。该原因主要是样本数量，提高训练速度。比较典型的工作有Lee等提出了 SVM算法需要计算和存储核函数矩阵，该矩阵的大小是与样 Reduced 本数量密切相关的，当样本数量大时则需要很大的内存，例如 方法旧，Zhang等提出一种预抽取支持向量机的方j去【13J，奉国和 样本数目超过4000时，存储核函数矩阵需要多达128MB内 等提出K—MEAN—SVM方法【-等。支持向量机工作子集的方法 存∞，这样在大样本情况下是不可能将整个矩阵f司时保存在内 可以看做是SVM增量学习算法雏形怍151，萧嵘铮1q提出弘SVM 存中的，增