以特征值关联项改贝叶斯分类器正确率.PDF

第３４卷第８期　　　 计算机应用与软件 Ｖｏｌ３４Ｎｏ．８ ２０１７年８月　　 ＣｏｍｐｕｔｅｒＡｐｐｌｉｃａｔｉｏｎｓａｎｄＳｏｆｔｗａｒｅ Ａｕｇ．２０１７ 以特征值关联项改进贝叶斯分类器正确率 蔡永泉　王玉栋 （北京工业大学计算机学院　北京 １００１２４） 摘　要　　朴素贝叶斯分类器建立在其数据“特征值之间相互条件独立”的基础上，而在实际应用中该假设难以 完全成立。针对这种现象提出一种算法，即通过寻找对产生错误分类影响最大的特征值，并依此特征值的关联项 对数据项扩充，在此基础上对扩充项添加权重，以达到提升分类器精度的效果。最后对权重的大小加以论证，实 验分析了不同大小的权重对分类器正确率的影响。实验结果表明，添加关联项扩充训练集，可以有效提升贝叶斯 分类器的正确率。 关键词　　朴素贝叶斯分类器　贝叶斯算法　贝叶斯分类器 中图分类号　ＴＰ３　　　　文献标识码　Ａ　　　　ＤＯＩ：１０．３９６９／ｊ．ｉｓｓｎ．１０００３８６ｘ．２０１７．０８．０５１ ＩＭＰＲＯＶＥＮＡ?ＶＥＢＡＹＥＳＣＬＡＳＳＩＦＩＣＡＴＩＯＮＷＩＴＨＲＥＬＡＴＥＤＩＴＥＭＳ ＣａｉＹｏｎｇｑｕａｎ　ＷａｎｇＹｕｄｏｎｇ （ＣｏｌｌｅｇｅｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ，ＢｅｉｊｉｎｇＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ，Ｂｅｉｊｉｎｇ１００１２４，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ　　ＮａｉｖｅＢａｙｅｓｃｌａｓｓｉｆｉｅｒｉｓｂａｓｅｄｏｎｔｈｅｈｙｐｏｔｈｅｓｉｓｔｈａｔｐａｒａｍｅｔｅｒｓｏｆｔｈｅｓａｍｐｌｅａｒｅｍｕｔｕａｌｌｙｃｏｎｄｉｔｉｏｎａｌ ｉｎｄｅｐｅｎｄｅｎｔ．Ｔｈｅｐｒａｃｔｉｃａｌａｐｐｌｉｃａｔｉｏｎｏｆｔｈｉｓｈｙｐｏｔｈｅｓｉｓｉｓｈａｒｄｔｏｅｓｔａｂｌｉｓｈｅｄ，ｓｏｔｈｉｓｐａｐｅｒｐｒｏｐｏｓｅｓａｎｅｗａｌｇｏｒｉｔｈｍｔｏ ｉｍｐｒｏｖｅＮａｉｖｅＢａｙｅｓｃｌａｓｓｉｆｉｅｒｔｈｒｏｕｇｈｌｏｏｋｉｎｇｆｏｒｐｒｏｐｅｒｔｉｅｓｔｈａｔｈａｖｅｔｈｅｍａｘｉｍｕｍｉｎｆｌｕｅｎｃｅｏｎｅｒｒｏｒｃｌａｓｓｉｆｉｃａｔｉｏｎｗｉｔｈ ａｎｅｆｆｅｃｔｉｖｅｌｙｗａｙ，ｆｉｎｄｉｎｇｒｅｌａｔｅｄｉｔｅｍｓｔｏｅｘｔｅｎｄｔｈｅｏｒｉｇｉｎａｌｄａｔａｓｅｔ，ｔｈｅｎａｄｄｉｎｇｗｅｉｇｈｔｓｔｏｔｈｅｒｅｌａｔｅｄｉｔｅｍｓ．Ｔｈｉｓ ｐａｐｅｒｓｈｏｗｓｔｈｅｒｅｓｕｌｔｓｂｙｅｘｐｅｒｉｍｅｎｔｓ，ａｎｄｒｅｌａｔｅｄｉｔｅｍｓｍａｋｅｔｈｅｃｌａｓｓｉｆｉｅｒｗｏｒｋｂｅｔｔｅｒ． Ｋｅｙｗｏｒｄｓ　　ＮａｖｅＢａｙｅｓｃｌａｓｓｉｆｉｃａｔｉｏｎ　Ｂａｙｅｓａｌｇｏｒｉｔｈｍ　Ｂａｙｅｓｃｌａｓｓｉｆｉｅｒ 一种类似Ａｐｒｉｏｒｉ算法的冗余剔除算法和特征值筛选 ０　引　言 方法，使关联特征值具有更好的分类能力。 本文在ＮＢＣ的基础上，在经过一次训练后，通过 朴素贝叶斯算法是一种在已知先验概率与类条件 训练结果筛选容易致误的特征值，并对所有错误分类 概率的情况下的模式分类方法，待分类样本的分类结 的所包含的特征值进行提取，从中发掘关联项，对原训 果取决于各类域中样本的全体［１］。朴素贝叶斯分类器 练过程中的样本集进行提扩充。以０－１分类（两类分 （ＮＢＣ）以贝叶斯公式为基础，从理论上讲精确度高，运 类）为例，根据０和１两类的先验条件概率，考虑从样 算速度快［２］，但也存在以下问题：（１）在样本的特征提 本集中提取最有可能产生错误结果的特征值，并依该 取不够优秀时，或对于易出现干扰项的样本，容易导致 特征值寻找关联点扩充原数据集，从而提高ＮＢＣ的分 分类正确率低。（２）样本中有部分数据特征稀疏，会 类效果。 极大地降低ＮＢＣ分类结果的正确率。因此ＮＢＣ一般 情况下的分类效果难以达到