正态分布贝叶斯分类器实现.docxVIP

实验报告 课程名称： 模式识别 实验项目： 正态分布贝叶斯分类器的实现 专业班级： 计算机应用技术 1605班 姓 名： 柯于锭 学 号： 201610262 指导教师： 李 威 成 绩： 沈阳工业大学实验报告 （适用计算机程序设计类） 专业班级：计算机应用技术1605班 学号： 201610262 姓名： 柯于锭 实验名称：正态分布贝叶斯分类器的实现 实验目的 了解模式识别中的统计决策及贝叶斯分类器原理； 熟悉并会根据给出的相关数据设计正态分布贝叶斯分类器； 熟悉并会使用C++并调用OpenCV进行相关程序的编写。 实验原理 贝叶斯公式 贝叶斯定理于 1763 年提出，它的表述为： 设试验 E 的样本空间为 S，A 为 E 的事件，B1,B2,…,Bc为 S 的一个划分，且 P(A)0 ，P(Bi)0(i P 该公式称为“贝叶斯公式” ，其中： PBiA称为后验概率（Posterior Probability），表示事件A出现后，各不相容的条件 PABj称为类条件概率 （Class-conditional Probability） ， 表示在各条件 Bi 存在时，结果事件 2、贝叶斯分类 想如果把样本属于某个类别作为条件，样本的特征向量取值作为结果，则模式识别的分类决策过程也可以看作是一种根据结果推测条件的推理过程。它可以分为两种类型： 2.1 确定性分类决策 特征空间由决策边界划分为多个决策区域，当样本属于某类时，其特征向量一定落入对应的决策区域中，当样本不属于某类时，其特征向量一定不会落入对应的决策区域中；现有待识别的样本特征向量落入了某决策区域中，则它一定属于对应的类。 图1 确定性决策分类图 2.2 随机性分类决策 特征空间中有多个类，当样本属于某类时，其特征向量会以一定的概率取得不同的值；现有待识别的样本特征向量取了某值，则它按不同概率有可能属于不同的类，分类决策将它按概率的大小划归到某一类别中。 图2 随机性分类决策图 3、最小错误概率贝叶斯分类器 把代表模式的特征向量x分到c个类别(ω1，ω2，…，ωc)中某一类的最基本方法 HYPERLINK /t01d4298175c99f111d.jpg 是计算在?x的条件下，该模式属于各类的概率，用符号Pω1x Pω1 同理，推广到多类分类，比如说有M类时，贝叶斯最小错误率分类决策规则可以做出如下表述： 4、最小风险贝叶斯分类器 由于客观事物的复杂性，分类器做出各种判决时的风险是不一样的。例如将 HYPERLINK /doc/5908972-6121877.html \t _blank 癌细胞误判为正常细胞的风险就比将正常细胞误判为癌细胞的风险大。因此，在贝叶斯分类器中引入了风险的概念。在实际应用中根据具体情况决定各种风险的大小，通常用一组系数Cij来表示。Cij表示分类器将被识别样本分类为ωi，而该样本的真正类别为ωj时的风险。设计最小风险分类器的基本思想是用后验概率计算将?x分类为ωi的条件风险比较各 5、正态分布模式的贝叶斯分类器 许多实际的数据集：均值附近分布较多的样本；距均值点越远，样本分布越少。此时正态分布（高斯分布）是一种合理的近似。正态分布概率模型的优点： * 物理上的合理性。 * 数学上的简单性。 图3 某大学男生身高分布数据图 图中为某大学男大学生的身高数据，红线是拟合的密度曲线。可见，其身高应服从正态分布。 三、贝叶斯分类器的应用 贝叶斯网络可充分利用属性变量之间的依赖信息，因而应用十分广泛。主要包括如下一些:医疗诊断、在线故障诊断、可靠性分析、军事目标识别、多目标跟踪、生物信息学中的基因序列分析等。贝叶斯网络也应用于图像处理，模式识别和机器视觉领域，这些应用研究是很有前景的。贝叶斯分类器是用于分类的贝叶斯网络，是进行预测的有力工具。 四、程序设计流程图 确定 确定特征属性 获取训练样本 求类条件概率 构造分类器 测试样本 结果是否满意 修改参数 否? 绘制判别面 开始 结束 是? 图4 程序设计流程图 五、实验内容 1、数据集 在试验中我们选取了230名文理科生的数学成绩和语文成绩，文件studentgrade.txt。其中第一位学生的数学成绩，第二个为语文成绩，第三个数字代表文理科生（1代表文科生，2代表理科生）。我们假定：（所有课程的成绩范围是 0到100分）文科生的数学成绩服从均值为 60，标准差为10的正态分布，文科生的语文成绩服从 均值为80，标准差为10的正态分布理科生的数学成绩服从 均值为