基于SVM的中文文本分类相关算法的研究与实现-计算机应用技术专业论文.docxVIP

摘要摘 摘要 摘 要 文本分类是按照文本内容、结构等方面来组织信息，帮助人们从中挑选出所 需要的内容。支持向量机是机器学习和模式识别领域研究的热点，近年来在文本 分类方面广泛应用。 本文以支持向量机为基础，对文本分类的相关算法进行了深入的研究，用这 些算法设计并实现了一个中文文本分类系统，该系统主要包括以下几个模块： (1)预处理。实现了正向最大匹配分词算法和逆向最大匹配分词算法，提 出并实现了一种改进的分词算法。该算法改进了传统的纯文本词表，使用首字索 引的二级哈希词典结构；分词算法改进的匹配规则还可以同时有效地处理歧义词 和未登录词问题；然后将编码策略结合到停用词表的匹配过程中进行停用词处 理： (2)特征处理。实现了互信息、文档频率、信息增益和z2(CHI)四种特 征选择算法，用公式表示了特征词制约分类精度的三大因素，然后与互信息结合 提出了改进的互信息特征选择算法，该算法在保留原有互信息计算简单的优点的 同时还有利于强关联词的选择； (3)构造分类器。将标准支持向量机扩展到多类分类器以适应多个类别情 况下的分类；针对样本的动态增加提出了一种支持向量机的增量学习方法；提出 了一种改进的基于组合学习方法AdaBoost的支持向量机分类器的构造算法，这 种方法采用规则抽样，有利于解决样本分布不平衡情况下的分类问题。 另外，通过实验对本文系统中各个模块实现的算法进行了评测和比较。 关键词：文本分类，支持向量机，多类支持向量机，增量学习，组合学习 AbstractResearch Abstract Research and Implementation on the Related Algorithms of Chinese Text Classification Based on SVM Abstract Text Classification organizes information according to structures，content of text and SO on to help the people pick out the information they need．Support Vector Machine(SVM)is the hot spot in Machine Learning and Pattern Recognition fields．It is used widely in Text Classification recently． This paper takes SVM theory as the foundation，researches the related algorithms of The Chinese Text Classification，designs and implements a Chinese Text Classification System using these algorithms．It includes： (1)Preprocessing．FMM，MM and an improved word segmentation algorithm are implemented．This algorithm improved the traditional plain text vocabulary,uses a dictionary structure of first character index and second-level Hash．Meanwhile the matching rule of this improved Segmentation algorithm can solve the problems of ambiguities and unknown word effectively；then add code strategy to the Stop Word matching process to eliminate the Stop Word． (2)Feature Selection processing．Four algorithms including Mutual Information (Mr)，Document Frequency(DF)，Information Gain(IG)and Z2(CHI)are implemented．Three influencing factors about Feature to the precision of Classification are expressed with formula，then they are unified with MI，an impr