第3讲统计分类一－－贝叶斯分类器幻灯片.pptVIP

三、几种贝叶斯分类判别规则： 所以在0-1损失函数下，使 的最小风险贝叶斯分类就等价于 的最小错误率贝叶斯分类 所以，最小错误率贝叶斯决策就是在0-1损失函数条件下的最小风险贝叶斯分类，即，前者是后者的特例。 * 三、几种贝叶斯分类判别规则： * 三、几种贝叶斯分类判别规则： 3、最大似然比贝叶斯分类： 最大似然比判别规则也是一种贝叶斯分类方法，它是把模式样本归属于这样的类型ωi ： 类型ωi分别与其它类型ωj(j=1,2,…,c，j≠i )的似然比均大于相应的门限值，而其他类型ωj(j=1,2,…,c，j≠i )分别与类型ωi的似然比均小于相应的门限值。 * 三、几种贝叶斯分类判别规则： 由最小错误率判别规则，在两类问题中若 则 ，将上式转换为： 定义似然比： 判别门限： 最大似然比判别规则为： * 三、几种贝叶斯分类判别规则： 由最小风险判别规则，在两类问题中若 根据条件风险公式： 若 ，有 * 三、几种贝叶斯分类判别规则： 由贝叶斯公式 可得： 定义判别门限： 所以 ，有 * 三、几种贝叶斯分类判别规则： 讨论多类问题： 定义： * 似然比 判别门限 则最大似然比贝叶斯分类的判别规则可以表达为： 若 Lijθij，则x ∈ ωi ，i、j=1,2,….c, j≠ i * 1、全概率公式和贝叶斯公式 （1）条件概率： 设A、B是两个事件，且P(B)0，则称 为在事件B发生的条件下事件A发生的条件概率。 （2）全概率公式 设某试验E的样本空间为S，A为E的事件，B1，B2，…，Bn为S的一个划分，且P(Bi)0(i=1,2,……,n)，则 P(A)=P(A|B1)P(B1)+ P(A|B2)P(B2)+…＋ P(A|Bn)P(Bn) 称为全概率公式 * 一、数理统计基础 (3)贝叶斯（Bayes）公式 设试验E的样本空间为S，A为E的事件，B1，B2，…，Bn为S的一个划分，且P(A)0 ，P(Bi)0(i=1,2,……,n)，则 * 一、数理统计基础 贝叶斯公式表达了两个相关事件在先后发生时的推理关系 2、随机变量的概念 设E是随机试验，它的样本空间是S＝{e}。如果对于每一个 ，都有一个实数X(e)与之对应，这样就得到一个定义在S上的单值实值函数X=X(e)，称为随机变量。 随机变量可分为离散型随机变量和连续型随机变量。 * e X(e) S 一、数理统计基础 3、离散型随机变量及其分布 （1）概念 如果随机变量的全部取值是有限个或可列无限多个，则称为离散型随机变量 （2）离散型随机变量的概率分布 设离散型随机变量X所有可能取的值为xk（k＝1，2，…），X取各个可能值的概率，即事件{X=xk}的概率，为 P{X=xk}=pk，k ＝1，2，… 如果pk满足下面两个条件 k ＝1，2，… 则称上式为离散型随机变量X的概率分布 * 一、数理统计基础 （3）几种重要的分布 （0－1）分布 k=0,1 (0p1) 二项分布 泊松分布 * 一、数理统计基础 4、随机变量的分布函数 （1）概念 设X是一个随机变量，x是任意实数，函数 称为X的分布函数。 （2）性质 （a）F（x）是一个不减函数 （b） * 一、数理统计基础 5、连续型随机变量的概率密度 （1）概念 对于随机变量X的分布函数F(x)，存在非负函数f(x)，使对于任意实数x有 则称X为连续型随机变量，其中f(x)称为X的概率密度函数。 （2）概率密度函数的性质 * 一、数理统计基础 （3）两种重要的连续型随机变量 均匀分布 设连续型随机变量X具有概率密度 则称X在区间（a，b）上服从均匀分布。其分布函数为 * 一、数理统计基础 正态分布 设连续型随机变量X具有概率密度 则称X服从参数为μ，σ的正态分布或高斯分