第2章 Bayes决策理论.pptVIP

3.7 离散情况的Bayes决策 返回本章首页 前面我们我们介绍都是连续情况的Bayes决策理论，这里我们看一下的离散情况。设 是离散型随机变量，从而Bayes决策法则就是： 这时Bayes决策规则仍然不变，最小错误概率的Bayes决策法则仍为： 返回本章首页 最小风险的Bayes决策法则仍为： 这里着重讨论最小错误率的Bayes决策法则。等价的判别函数有以下几种形式： 对二类模式的分类问题，判别函数可采用以下的形式： 返回本章首页 设模式特征向量为 且各特征相互独立。并令： 返回本章首页 从而似然比： 将其改写为线性判别函数的形式： 返回本章首页 式中： 可将其任意分类，或拒绝 课后习题（一） 返回本章首页 设五维空间的线性方程为 试求出其权向量与样本向量点积的表达式 中的 ， 以及增广权向量与增广样本向量形式 中的 与 。 上式是一个五维空间的超平面，求该平面到坐标原点的法向距 离。 2 论述以下概念并分析其解决问题的思想方法 （1）基于最小错误率的Bayes决策； （2）最小最大决策； （3）Fisher线性判别； （4）最小平方误差准则函数； （5）最小最大化准则。 返回本章首页 试从模式类与模式概念分析以下词之间的关系： 王老头，王 老太，王明（安徽工业大学本科生），周强（年轻教师），老年 人，老头，老太，年青人。 THANK YOU VERY MUCH ！ 本章到此结束 下一章“概率密度函数的估计” 返回本章首页 结 束放映 第1章 绪论 * 返回本章首页 假定决策域已经确定，我们以 表示分类器判为 时的特征空间中的区域，同样有 和 ，于是总风险用条件风险的形式表示为 返回本章首页 返回本章首页 一旦 和 确定，风险 就是先验概率 的线性函数，可表示为 决策阀值 返回本章首页 一旦 和 确定，风险 就是先验概率 的线性函数，可表示为 决策阀值 返回本章首页 返回本章首页 返回本章首页 综上所述，可以得出：在作最小风险Bayes决策时，若考虑 有可能改变或对先验概率毫无所知，则应选择使最小Bayes风险 为最大值时的 来设计分类器，它相对于其它的 为最大，但能保证在不管 如何变化时，使最大风险将为最小，我们称其为最小最大决策。其任务就是寻找使Bayes风险为最大时的决策域 和 ，它对应于下式 然后确定 3.5 Bayes分类器和判别函数 返回本章首页 前面我们介绍了四种决策规则，这里结合第二章中介绍的判别函数和决策面的概念来设计分类器。 对于n 维空间中的 c 个模式类别各给出一个由 n 个特征组成的单值函数，这叫做判别函数。在 c 类的情况下，我们共有 c个判别函数，记为 判别函数的性质 假如一个模式 X 属于第 i 类，则有 而如果这个模式在第 i 类和第 j 类的分界面上，则有 返回本章首页 1 多类情况 最小错误率的Bayes决策规则： 可设判别函数为： 返回本章首页 最小风险的Bayes决策规则， 可设判别函数为 决策面方程 分类器框图 返回本章首页 返回本章首页 返回本章首页 2 两类情况 可设判别函数为： 可将其任意分类，或拒绝 3.6 正态分布时的Bayes决策法则 返回本章首页 在前面我们提到设计Bayes分类器的两个先决已知条件： （1）先验概率 ； （2）条件概率密度函数 。 先验概率的估计并不困难，关键是条件概率密度函数。 这里我们以正态分布概率密度函数为主进行讨论，因为 Ⅰ 在实际问题中，大量的随机变量都服从或近似地服从正态分布； Ⅱ 即使统计总体不服从正态分布，但是它的许多重要的样本特征可能是渐进正态分布的； Ⅲ 正态分布分析起来比较方便。 返回本章首页 正态分布概率密度函数的定义及性质 （1）单变量正态分布 单变量正态分布概率密度函数 ，有两个参数 和 完全决定，常简记为 。 期望 方差 返回本章首页 （2）多维变量正态分布 均值向量 协方差矩阵 返回本章首页 多维变量正态分布密度函数的性质 （1）多维变量正态分布密度函数由均值向量 和协方差矩阵 完全确定，包含