朴素贝叶斯文本分类器-.pptVIP

朴素贝叶斯文本分类器 主要内容 文本分类介绍 朴素贝叶斯文本分类原理 朴素贝叶斯文本分类的实现 分类器评估 问题总结 文本分类介绍 文本分类是指如何从训练文本中学习得到分类模型的问题。 图 1 文本分类过程 文本分类介绍 文本分类算法 知识工程方法 词匹配法 统计学习方法 文本分类介绍 基于统计的学习方法 图 2 统计学习方法原理 文本分类介绍 基于统计的学习方法 决策树 Rocchio 朴素贝叶斯 神经网络 支持向量机 线性最小平方拟合 …… 朴素贝叶斯文本分类原理 每篇文档看成一“袋子”的词 每个文档遵循单词的多项式分布，作了与文档长度相同次数的独立实验。 词典V={w1,w2,...w|v|} ，|V|是词典中的单词总数。 (1) (2) 朴素贝叶斯文本分类的实现 训练集的选择 图 3 训练集 朴素贝叶斯文本分类的实现 朴素贝叶斯文本分类的技术思路 每个文档表示成MapString,Integer 训练集表示成MapString,ListMapString,Integer ListMapString,Integer为每个类对应的文档列表 图 4 训练集的表示 朴素贝叶斯文本分类的实现 朴素贝叶斯文本分类的技术思路 （3） （4） 朴素贝叶斯文本分类的实现 朴素贝叶斯文本分类的技术思路 图 5 计算测试文本的后验概率 朴素贝叶斯文本分类的实现 朴素贝叶斯文本分类的技术思路 图 6 确定测试文本分类结果 分类器的评估 测试集的选取 图 7 测试集 分类器的评估 类别 政 治 经 济 计 算 机 环 境 交 通 军 事 医 药 艺 术 体 育 教 育 正 确 10 6 10 1 10 9 2 10 10 10 错 误 0 4 0 9 0 1 8 0 0 0 表1 测试结果 分类器的评估 表2 错误分类记录表 本属于类 错分成类 数量 经济 计算机 4 环境 计算机 9 军事 计算机 1 医药 计算机 8 分类器的评估 类 别 政 治 经 济 环 境 计 算 机 交 通 军 事 医 药 艺 术 体 育 教 育 p 100% 100% 100% 41% 100% 100% 100% 100% 100% 100% r 100% 60% 10% 100% 100% 90% 20% 100% 100% 100% 表3 查准率和查全率 精准度78% 问题总结 分类器效率低，200个训练文档的情况和10个测试文档的情况下平均需要3分钟左右 训练集语料库过于陈旧 文本分类的知识还很欠缺，只初步掌握了其基本原理，还有很多分类算法、文本预处理、特征提取、评估方法等知识需要学习，因此还需继续努力。 * * * * * *