正态分布贝叶斯分类器的实现.docxVIP

实验报告课程名称：模式识别实验项目：正态分布贝叶斯分类器的实现专业班级：计算机应用技术 1605班姓名：柯于锭学号：201610262指导教师：李威成绩：沈阳工业大学实验报告（适用计算机程序设计类）专业班级：计算机应用技术1605班学号： 201610262姓名：柯于锭实验名称：正态分布贝叶斯分类器的实现实验目的了解模式识别中的统计决策及贝叶斯分类器原理；熟悉并会根据给出的相关数据设计正态分布贝叶斯分类器；熟悉并会使用C++并调用OpenCV进行相关程序的编写。实验原理贝叶斯公式贝叶斯定理于 1763 年提出，它的表述为：设试验E 的样本空间为S，A 为E 的事件，为S 的一个划分，且P(A)0 ，P(Bi)0(i=1,2,……,c)，则：该公式称为“贝叶斯公式”，其中：称为后验概率（Posterior Probability），表示事件A出现后，各不相容的条件Bi 存在的概率，它是在结果出现后才能计算得到的，因此称为“后验”；称为类条件概率（Class-conditional Probability），表示在各条件Bi 存在时，结果事件A 发生的概率。2、贝叶斯分类想如果把样本属于某个类别作为条件，样本的特征向量取值作为结果，则模式识别的分类决策过程也可以看作是一种根据结果推测条件的推理过程。它可以分为两种类型：2.1 确定性分类决策特征空间由决策边界划分为多个决策区域，当样本属于某类时，其特征向量一定落入对应的决策区域中，当样本不属于某类时，其特征向量一定不会落入对应的决策区域中；现有待识别的样本特征向量落入了某决策区域中，则它一定属于对应的类。图1 确定性决策分类图2.2 随机性分类决策特征空间中有多个类，当样本属于某类时，其特征向量会以一定的概率取得不同的值；现有待识别的样本特征向量取了某值，则它按不同概率有可能属于不同的类，分类决策将它按概率的大小划归到某一类别中。图2 随机性分类决策图3、最小错误概率贝叶斯分类器把代表模式的特征向量x分到c个类别()中某一类的最基本方法是计算在?x的条件下，该模式属于各类的概率，用符号表示。比较这些条件概率，最大数值所对应的类别就是该模式所属的类。因此，基于贝叶斯最小错误率的二类分类决策规则可以表述为如下表达式。同理，推广到多类分类，比如说有M类时，贝叶斯最小错误率分类决策规则可以做出如下表述：4、最小风险贝叶斯分类器由于客观事物的复杂性，分类器做出各种判决时的风险是不一样的。例如将癌细胞误判为正常细胞的风险就比将正常细胞误判为癌细胞的风险大。因此，在贝叶斯分类器中引入了风险的概念。在实际应用中根据具体情况决定各种风险的大小，通常用一组系数来表示。表示分类器将被识别样本分类为，而该样本的真正类别为时的风险。设计最小风险分类器的基本思想是用后验概率计算将?x分类为的条件风险比较各的大小，与最小值对应的类别是分类的结果。评价这种分类器的标准是平均风险，它的平均风险最小。5、正态分布模式的贝叶斯分类器许多实际的数据集：均值附近分布较多的样本；距均值点越远，样本分布越少。此时正态分布（高斯分布）是一种合理的近似。正态分布概率模型的优点： * 物理上的合理性。 * 数学上的简单性。图3 某大学男生身高分布数据图图中为某大学男大学生的身高数据，红线是拟合的密度曲线。可见，其身高应服从正态分布。三、贝叶斯分类器的应用贝叶斯网络可充分利用属性变量之间的依赖信息，因而应用十分广泛。主要包括如下一些:医疗诊断、在线故障诊断、可靠性分析、军事目标识别、多目标跟踪、生物信息学中的基因序列分析等。贝叶斯网络也应用于图像处理，模式识别和机器视觉领域，这些应用研究是很有前景的。贝叶斯分类器是用于分类的贝叶斯网络，是进行预测的有力工具。四、程序设计流程图图4 程序设计流程图五、实验内容1、数据集在试验中我们选取了230名文理科生的数学成绩和语文成绩，文件studentgrade.txt。其中第一位学生的数学成绩，第二个为语文成绩，第三个数字代表文理科生（1代表文科生，2代表理科生）。我们假定：（所有课程的成绩范围是 0到100分）文科生的数学成绩服从均值为 60，标准差为10的正态分布，文科生的语文成绩服从均值为80，标准差为10的正态分布理科生的数学成绩服从均值为 80，标准差为10的正态分布，理科生的语文成绩服从均值为60，标准差为10的正态分布。分布范围如下所示：图5 学生成绩正态分布图2、主要代码本文用C++语言和调用OpenCV实现了对学生成绩的分类，程序主要设计部分代码及说明：voidGenerateTrainData_two_feature(intsample_counts,doublemiu1,doublesigma1,doublemiu2,doublesig