基于改进加权贝叶斯分类算法在空间数据中应用.docVIP

基于改进加权贝叶斯分类算法在空间数据中应用 　　摘要： 朴素贝叶斯算法是一种简单而高效的分类算法，但它的属性独立性假设，影响了它的分类性能。针对这个问题，提出一种基于属性约简的PLS加权朴素贝叶斯分类算法。该算法首先分析属性之间的相关性，通过属性约简选择一组近似独立的属性约简子集，提出改进的偏最小二乘回归加权朴素贝叶斯分类算法，实验结果表明，改进算法具有较高的分类准确度。并将改进的算法应用于边坡识别问题中。 　　Abstract： Naive bayesian algorithm is a simple and effective classification algorithm， but its attribute independence hypothesis， influence its classification performance. According to this problem， the paper proposes a kind of attribute reduction based on PLS weighted simple bayesian classification algorithm. This algorithm firstly analyzes the relationship between attribute， through attribute reduction choose a set of approximate independent attribute reduction subset， put forward the improvement of the partial least-squares regression weighted simple bayesian classification algorithm， experimental results show that the improved algorithm has higher classification accuracy. And the improved algorithm is applied to slop identification. 　　关键词： 加权朴素贝叶斯分类；属性约简；偏最小二乘回归；边坡识别 　　Key words： Weighted Naive Bayes；attribute reduction；partial least squares；slope identification 　　中图分类号：TP391 文献标识码：A 文章编号：1006-4311（2012）36-0201-03 　　0 引言 　　朴素贝叶斯分类器（Naive Bayesian Classifier，NBC）是一种简单而有效的概率分类方法，由于其计算高效、精确度高，并具有坚定的理论基础得到了广泛应用。然而，朴素贝叶斯分类方法基于条件独立性假设，即假设一个属性对给定类的影响独立于其他属性，而这在现实问题中往往并不成立。 　　文献[1]给出了基于偏最小二乘回归（PLS）的属性求解算法。该算法用回归系数度量了条件属性与决策属性之间的相关程度。但忽略了冗余属性对回归分析的影响，为此，本文在分析属性相关性度量的基础上，通过属性约简的方法找出一组最近似独立的属性约简子集，从而删除冗余属性和无关属性，弱化了朴素贝叶斯分类器的独立性假设条件的限制。在约简的数据集上，在条件属性与决策属性之间建立基于属性约简的偏最小二乘回归方程，以回归系数作为条件属性的权值，进一步改进朴素贝叶斯的分类测试能力。并通过实验与朴素贝叶斯分类器进行比较。 　　1 朴素贝叶斯分类及加权贝叶斯分类模型 　　1.1 朴素贝叶斯分类算法 贝叶斯分类是一种基于统计方法的分类模型，贝叶斯定理是贝叶斯学习方法的理论基础。朴素贝叶斯分类模型在贝叶斯定理的基础上，通过条件独立性假设，降低计算开销，预测未知数据样本属于最高后验概率的类。 　　设每个数据样本用一个n维特征向量X={x1，x2，…，xn}表示，分别描述对n个属性A1，A2，…An样本的n个度量。假定有m个类C1，C2，…，Cm，给定一个未知的数据样本X，分类法将预测X属于具有最高后验概率的类。即朴素贝叶斯分类将未知的样本分配给类Ci，当且仅当P（Ci│X）＞P（Cj│X），1？燮j？燮m，j≠i，这样，最大化P（Ci│X）。其中P（Cj│X）最大的类Ci称为最大后验假定。根据贝叶斯定理得：P（Ci│X）=■。 　　由于P（X）为常数，只需P（X│Ci）P（Ci）最大即可。给定具有许多属性的数据集，计算P（X│Ci）的开销可能非常大。为降低计算P（X│Ci）的开销，可以做类条