基于相邻边界模型的支持向量预选算法.pdfVIP

第35卷 第24期 计 算 机 工 程 2009年 12月 VoL35 ND．24 ComputerEngineering December2009 · 人工智能及识别技术 · 文章编号：10oo—-3428(2o09)24—_o18 3 文献标识码：A 中圈分类号|TP301．6 基于相邻边界模型的支持向量预选算法 孙 卫 ，庄卫华 ，林红飞 ，曾晓勤 (1．南京审计学院信息科学学院，南京 210029；2．河海大学计算机与信息工程学院，南京 210098) 擅 要：根据支持向量的几何分布特性，提出相邻边界模型的概念以及一种支持向量预选算法。该算法通过预选出相互邻近的边界样本， 避免大量样本参与二次规划问题的求解，为支持向量机提供高效的训练集。实验结果证明，采用该预选算法的LIBSVM可以较大地提高训 练的时间效率和空间效率。 关黼 ：相邻边界模型；支持向量机；主动学习 SVPre-selectingAlgorithmBased0nAdjacentBoundaryModel SUNW ei，ZHUANGW ei—hua，LINHong．fei，ZENGXiao．qin2 (1．SchoolofInformationScience，NanjingAuditUniversity,Nanjing210029； 2．CollegeofComputerandInformationEngineering，HohaiUniversity,Nanjing210098) [Abstract]AccordingtothegeometrydistributionpropertyofSapportVector(SV)，thispaperproposestheconceptofadjacentboundarymodel andSVpre—selectingalgorithm．Bypre—selectingadjacentboundarysamples，lotsofsamplesareavoidedtosolveQuadraticProgramming(QP) problems，whichprovidesefficienttrainingsetsforSVM．Experimentsshowthatitcanimproveefficienciesoftrainingtimeandspacebyusingthe algorithm inLIBSVM ． [Keywords]adjacentboundarymodel；SupportVectorMachine(SVM)；activelearning l 概述 应投影算法预选支持向量 等。本文给出了在某种条件下算 支持向量机(SupportVectorMachine，SVM)以严格的数 法复杂度为线性的支持向量主动学习策略，并使用核函数把 学理论为基础，具有简洁的数学形式、直观的几何解释和 良 该方法推广到特征空间，从而解决了非线性可分问题的支持 好的泛化能力，与核技术的结合使它成为解决分类、回归、 向量预选问题。 概率密度估计等实际问题的有力工具。但 SVM 问题的本质 2 基于相邻边界模型的支持向量j黄选算法 是求解规划问题，因此，求解过程比较漫长，特别是当Hessian 2．1 相邻边界模型 矩阵为奇异矩阵或有很小的特征值时，求解过程尤为缓慢。 定义 训练集 71 另外由于需要存储 Hessian矩阵以及其他中间变量，因此需 T={T uT一}={(l，1)，(x2，Y2)，一·，( ，M)}∈( ×y)朋 要较大的存储空问，当训练样本较多时，这一问题会变得更 其中，r 为正类点集；T一为负类点集；Xi∈ =R ，Yi∈Y=