模式识别贝叶斯决策理论.pptVIP

第31页，共57页，星期日，2025年，2月5日解2、假定两类协方差矩阵相等∑=∑1+∑2第32页，共57页，星期日，2025年，2月5日训练样本号k123123123特征x1012-2-1-201-1特征x210-110-1-1-2-2类别ω1ω2ω3解1、假定三类协方差不等；例2：有训练集资料矩阵如下表所示，现已知，N=9、N1=N2=3、n=2、M=3，试问，未知样本X=(0,0)T应属于哪一类？第33页，共57页，星期日，2025年，2月5日第34页，共57页，星期日，2025年，2月5日可得三类分界线如图所示：第35页，共57页，星期日，2025年，2月5日解2、设三类协方差矩阵相等第36页，共57页，星期日，2025年，2月5日可得三类分界线如图所示：第37页，共57页，星期日，2025年，2月5日作业：①在下列条件下，求待定样本x=(2,0)T的类别，画出分界线，编程上机。1、二类协方差相等，2、二类协方差不等。训练样本号k123123特征x1112-1-1-2特征x210-110-1类别ω1ω2第38页，共57页，星期日，2025年，2月5日作业：②有训练集资料矩阵如下表所示，现已知，N=9、N1=N2=N3=3、n=2、M=3，试问，X=(-2,2)T应属于哪一类？要求：用两种解法a、三类协方差不等；b、三类协方差相等。编程上机，画出三类的分界线。训练样本号k123123123特征x1021-1-2-2001特征x201010-1-2-1-2类别ω1ω2ω3第39页，共57页，星期日，2025年，2月5日§4-6在一类错误率固定使另一类错误率最小的判别准则（聂曼-皮尔逊判决neyman-pearson）第40页，共57页，星期日，2025年，2月5日第1页，共57页，星期日，2025年，2月5日对x再观察：有细胞光密度特征,有类条件概率密度:P(x/ω?)?=1,2,…。如图所示利用贝叶斯公式：通过对细胞的再观察，就可以把先验概率转化为后验概率，利用后验概率可对未知细胞x进行识别。第四章贝叶斯决策理论§4-1Bayes分类器—最优分类器、最佳分类器一、两类问题例如：细胞识别问题ω1正常细胞，ω2异常细胞某地区，经大量统计获先验概率P(ω1),P(ω2)。若取该地区某人细胞x属何种细胞，只能由先验概率决定。第2页，共57页，星期日，2025年，2月5日设N个样本分为两类ω1，ω2。每个样本抽出n个特征，x=（x1，x2，x3，…，xn）T通过对细胞的再观察，就可以把先验概率转化为后验概率，利用后验概率可对未知细胞x进行识别。1、判别函数：若已知先验概率P(ω1),P(ω2)，类条件概率密度P(x/ω1)，P(x/ω2)。则可得贝叶斯判别函数四种形式：第3页，共57页，星期日，2025年，2月5日2、决策规则：第4页，共57页，星期日，2025年，2月5日3、决策面方程：x为一维时，决策面为一点，x为二维时决策面为曲线，x为三维时，决策面为曲面，x大于三维时决策面为超曲面。例：某地区细胞识别；P(ω1)=0.9，P(ω2)=0.1未知细胞x，先从类条件概率密度分布曲线上查到：解：该细胞属于正常细胞还是异常细胞，先计算后验概率：P(x/ω1)=0.2，P(x/ω2)=0.4第5页，共57页，星期日，2025年，2月5日g(x)阈值单元4、分类器设计：第6页，共57页，星期日，2025年，2月5日二、多类情况：ω?=(ω1,ω2,…,ωm)，x=(x1,x2,…,xn)1.判别函数：M类有M个判别函数g1(x),g2(x),…,gm(x).每个判别函数有上面的四种形式。2.决策规则：另一种形式：3、决策面方程：4、分类器设计：g1(x)Maxg(x)g2(x)gn(x)第7页，共57页，星期日，2025年，2月5日§4-2正态分布决策理论一、正态分布判别函数1、为什么采用正态分布：