ch2贝叶斯分类(13).pptVIP

2.4 正态分布的最小错误率Bayes决策 对于d=2的情况， 决策曲线 是二次曲线 如 椭圆、抛物线、双曲线、一对直线 2.4 正态分布的最小错误率Bayes决策 对于d=2的情况，决策曲线 是二次曲线： 如 椭圆、抛物线、双曲线、一对直线 2.4 正态分布的最小错误率Bayes决策 2.4 正态分布的最小错误率Bayes决策 最小距离分类器与线性分类器 判别函数的简化计算： 正态分布Bayes决策 最小距离分类器 线性分类器 第一种特例： 协方差矩阵相等且具有相同的方差 最小距离分类器与线性分类器 第一种特例： 正态分布Bayes决策 协方差矩阵相等且具有相同的方差 最小距离分类器与线性分类器 第二种特例： 判别函数的简化计算： 正态分布Bayes决策 Mahalanobis距离 线性分类器 协方差阵相等，非对角线矩阵 最小距离分类器与线性分类器 第二种特例： 正态分布Bayes决策 协方差阵相等，非对角线矩阵 各类协方差阵不相等 正态分布Bayes决策 正态分布的Bayes决策例解 两类的识别问题：医生要根据病人血液中白细胞的浓度来判断病人是否患血液病。 根据医学知识和以往的经验，医生知道： 患病的人，白细胞的浓度服从均值2000，方差1000的正态分布；未患病的人，白细胞的浓度服从均值7000，方差3000的正态分布； 一般人群中，患病的人数比例为0.5%。 一个人的白细胞浓度是3100，医生应该做出怎样的判断？ 正态分布Bayes决策 数学表示：用Ω表示“类别”这一随机变量，ω1表示患病， ω2表示不患病；x表示“白细胞浓度”这个随机变量。 例子中，医生掌握的知识非常充分，他知道： 1) 类别的先验分布：P(ω1) = 0.5%P(ω2) = 99.5%先验分布：没有获得观测数据（病人白细胞浓度）之前类别的分布 正态分布Bayes决策 正态分布的Bayes决策例解 2) 观测数据白细胞浓度分别在两种情况下的类条件分布： P(x|ω1) ~ N(2000,1000) P(x|ω2) ~ N(7000,3000) P(3100|ω1) = 2.1785e-4 P(3100|ω2) = 5.7123e-5 P(ω1|3100)=1.9% P(ω2|3100)=98.1% 医生的判断：正常 正态分布Bayes决策 正态分布的Bayes决策例解 1.输入类数M；特征数n，待分样本数m. 2.输入训练样本数N和训练集资料矩阵X(N×n)。并计算有关参数。 3.计算矩阵y中各类的后验概率。 4.若按最小错误率原则分类，则可根据 3 的结果判定y中各类样本的类别。 5.若按最小风险原则分类，则输入各值，并计算y中各样本属于各类时的风险并判定各样本类别。 Bayes分类的算法（假定各类样本服从正态分布） 例1、有训练集资料矩阵如下表所示，现已知，N=9、N1=5、N2=4、n=2、M=2，试问，X=(0,0)T应属于哪一类？ 训练样本号k 1 2 3 4 5 1 2 3 4 特征 x1 特征 x2 1 1 0 -1 -1 0 1 0 -1 0 1 1 1 0 -1 -2 -2 -2 类别 ω1 ω 2 解1、假定二类协方差矩阵不等（∑1≠∑2） 则均值: -1 -1 -2 x2 分类线 待测样本 x1 解2、假定两类协方差矩阵相等∑=∑1+∑2 -1 -1 -2 x2 分类线 待测样本 x1 作业 1. 设以下模式类别具有正态概率密度函数： ω1：{(0 0)T, (2 0)T, (2 2)T, (0 2)T} ω2：{(4 4)T, (6 4)T, (6 6)T, (4 6)T} （1）设P(ω1)= P(ω2)=1/2，求这两类模式之间的贝叶斯判别界面的方程式。 （2）绘出判别界面。 编写两类正态分布模式的贝叶斯分类程序。（可选例题或上述作业题为分类模式） 作业 2. 一个两类三维分类问题，每类的特征向量是正态分布，协方差矩阵为 均值向量分别为 写出相应的线性判别函数及决策面的方程. * 它与人工智能关系密切，其目的是用机器完成人类智能中通过视觉、听觉、触觉等感官去识别外界环境的工作。 模式识别是一门理论与应用并重的技术科学。 * 它与人工智能关系密切，其目的是用机器完成人类智能中通过视觉、听觉、触觉等感官去识别外界环境的工作。 模式识别是一门理论与应用并重的技术科学。 * 它与人工智能关系密切，其目的是用机器完成人类智能中通过视觉、听觉、触觉等感官去识别外界环境的工作。