模式识别-第二章 - 贝叶斯决策理论1.pptVIP

前面讨论的Bayes决策理论其实是很简单的，对特征空间任一点X只要能确定落在该点的样本X属于哪一种类的可能性大，就将这点划分到这类的决策域。问题是后验概率P(ωi|X)要通过先验概率和类概率密度函数计算。因为Bayes决策是一种通用方法，它只在原理上讲特征空间中符合什么条件才能作为哪一类决策域，而我们希望能把决策域用简便的方式，最好是函数形式划分出来，直接计算判别函数就方便了。显然具体的决策域划分与样本的概率分布有关。下面结合正态分布概率密度函数进行讨论，在讨论结束时我们会发现从中可以得到不少启示。 * e 的近似值(2.718282) 前面讨论的Bayes决策理论其实是很简单的，对特征空间任一点X只要能确定落在该点的样本X属于哪一种类的可能性大，就将这点划分到这类的决策域。问题是后验概率P(ωi|X)要通过先验概率和类概率密度函数计算。因为Bayes决策是一种通用方法，它只在原理上讲特征空间中符合什么条件才能作为哪一类决策域，而我们希望能把决策域用简便的方式，最好是函数形式划分出来，直接计算判别函数就方便了。显然具体的决策域划分与样本的概率分布有关。下面结合正态分布概率密度函数进行讨论，在讨论结束时我们会发现从中可以得到不少启示。 * * 其中p(e,x)表示错误率为e观测值为x的联合概率密度，P(e|x)是观测值为x时的条件错误概率密度函数，P(x)为x值出现的概率，而积分运算则表示为在整个d维特征空间上的总和。在此一维情况下，x取从－∞到+∞的整个范围。 * 其中p(e,x)表示错误率为e观测值为x的联合概率密度，P(e|x)是观测值为x时的条件错误概率密度函数，P(x)为x值出现的概率，而积分运算则表示为在整个d维特征空间上的总和。在此一维情况下，x取从－∞到+∞的整个范围。 * 其中p(e,x)表示错误率为e观测值为x的联合概率密度，P(e|x)是观测值为x时的条件错误概率密度函数，P(x)为x值出现的概率，而积分运算则表示为在整个d维特征空间上的总和。在此一维情况下，x取从－∞到+∞的整个范围。 * 其中p(e,x)表示错误率为e观测值为x的联合概率密度，P(e|x)是观测值为x时的条件错误概率密度函数，P(x)为x值出现的概率，而积分运算则表示为在整个d维特征空间上的总和。在此一维情况下，x取从－∞到+∞的整个范围。 * 利用贝叶斯原理，可以建立简单的肤色模型，并用来从图像中提取手部、脸部肤色，进而得到人的身体姿势。　　我们使用的方法是：　　1．先在一副训练图象中手工描绘出肤色区域，　　2．然后统计每种颜色点在肤色区域中出现的次数和在区域外出现的次数的比值，作为这种颜色是肤色的概率　　3．这样就得到了一张查找表，表中的每个元素是这个点是肤色的概率。我们就得到了一个点是不是肤色的概率分布。以上的“颜色训练结果窗口”就是这样一张表的直观显示。实际表格是三维的(HSI颜色空间，32×32×8)把这个条形区域分成八块以后，每一块是个32×32的正方形，表示HS空间下的概率分布，颜色越亮，说明这种颜色是肤色的概率越大。　　4．再加上域值限制之后，认为只有概率大于一定域值的才是肤色。这样，对图中任意一点，查找表中对应的概率，就可以很快的知道它是不是肤色了。 * 上面我们讨论了使错误率最小的贝叶斯决策规则。然而当接触到实际问题时，可以发现使错误率最小并不一定是一个普遍适用的最佳选择。　　譬如，在上面讨论过的细胞分类的例子中，把正常细胞错分为癌细胞，或相反方向的错误，其严重性是截然不同的。把正常细胞误判为异常细胞固然会给人带来不必要的痛苦，但若将癌细胞误判为正常细胞，则会使病人因失去及早治疗的机会而遭受极大的损失。　　由此可见，根据不同性质的错误会引起不同程度的损失这一考虑出发，我们宁肯扩大一些总的错误率，但也要使总的损失减少。这会引进一个与损失有关联的，更为广泛的概念——风险。在作出决策时，要考虑所承担的风险。基于最小风险的贝叶斯决策规则正是为了体现这一点而产生的。 其中（）表示观测样本X实属类别j,而被判为状态i时所造成的损失，Ri则表示了观测值X被判为i类时损失的均值。如果我们希望尽可能避免将某状态ωj,错判为状态ωi,则可将相应的值选择得大些，以表明损失的严重性。加权和Ri用来衡量观测样本X被判为状态ωi所需承担的风险。而究竟将X判为何类则应依据所有Ri,(i=1,…,c)中的最小值，即最小风险来定。　　我们再从另一角度把这个问题说清楚。我们见到一个病理切片X，要确定其中有没有癌细胞(用ω1表示正常，ω2表示异常)，则P(ω1|X)与P(ω2|X)分别表示了两种可能性的大小。如果X确实是癌细胞(ω2)，但被判作正常(ω1)，则会有损失，这种损失用表示，X确实是正常(ω1)，却被判定为异