支持向量机多类分类方法的精度分析.pdfVIP

第23卷 第2期 北 京 机 械 工 业 学 院 学 报 Vo1．23 No．2 2008年6月 Journal of Beijing Institute of Machinery Jun．2008 文章编号：1008—1658(2008)02—0032—04 支持向量机多类分类方法的精度分析 李红莲，焦瑞莉，范 京 (北京信息科技大学 光电信息与通信工程学院，北京100192) 摘 要：为了更好的选择合适的支持向量机多类分类器，对多类分类器one—against—the— rest及二叉树多类分类器的分类精度进行了理论分析，给出了定量的分类精度公式。公式表明，二 叉树多类分类器的分类精度通常大于one—against—the—rest多类分类器的分类精度。在所有的二叉 树多类分类器中，均衡二叉树多类分类器的分类精度最高，最不均衡二叉树多类分类器的分类精 度最低。最后通过实验验证了理论分析的正确性。 关 键 词：支持向量机；多类分类器；分类精度 中图分类号：TP 181 文献标识码：A Discussion on precision of multi．class classification methods for support vector machines LI Hong—lian，JIAO Rui—li，FAN jing (School of Photoelectric Information and Telecommunicati0n Engineering。 Beijing Information Science and Technology University，Beijing 100192，China) Abstract：In order to select appropriate multi—class support vector machines(SVM)，we propose precision formulae of one—against—the—rest and Binary Tree classification methods．From these formulae， we draw that the precision of Binary Tree SVM is better than that of one—against—the—rest SVM，and among all types of Binary Tree SVM，the precision of best balanced Binary Tree SVM is the best，while that of worst balanced Binary Tree SVM is the worst．Experiments show the conclusions are convincing． Key words：SVM；multi—class classification；classification precision 支持向量机是20世纪90年代发展起来的一项 两两组合，对每种组合分别训练出一个两类分类器， 机器学习技术，在分类问题中表现出了优良的特性， 当类别数为k时，需要训练的两类分类器的个数为 因此倍受人们的垂爱。有别于传统的基于经验风险 C =k(k一1)／2；分类时，分别用每个两类分类器去 最小化，支持向量机是在定义VC维的基础上，基于 划分样本，给出样本的所属类别，然后根据少数服从 结构风险最小化的，因而有更好的泛化(推广)能 多数的原则(类似于投票)确定该样本的最终类别。 力，可以有效地避免过学习问题 一 。不过支持向 从