派生贝叶斯准则由于先验概率未知北京大学.pptVIP

* 极小极大准则的公式解 此时直线Cmin(P1,P1g)的斜率为0 §3.3 派生贝叶斯准则 Cmin(P1,P1g)=c00+(c10-c00)PF(P1g) +P1[(c11-c00)+(c01-c11)PM(P1g)-(c10-c00)PF(P1g)] =b+kP1 (c11-c00)+(c01-c11)PM(P1g*)-(c10-c00)PF(P1g*)=0 考察Cmin(P1,P1g) 极小极大解应当取贝叶斯风险Cmin(P1)极大值 设此时P1g=P1g*， 极小极大方程 k= (c11-c00)+(c01-c11)PM(P1g)-(c10-c00)PF(P1g) = 0 解极大极小方程可得P1g* ，再得似然比门限 ?* 若 c00=c11=0，则极小极大方程可简化为 两种错误的代价相等 Cmin(P1g*)=c00+(c10-c00)PF(P1g*) c01PM(P1g*)=c10PF(P1g*) 而平均代价就是 此时的平均代价为 Cmin(P1g*)=c10PF(P1g*)=c01PM(P1g*) 先验概率未知，价价已知 * §3.3 派生贝叶斯准则 二元数字通信系统，m为有用信号，n(t)为观测噪声，n?N(0, ?n2)，代价因子c00=c11=0， c10=c01=1，先验概率P1,P0未知，要求采用极小极大检测，确定检测门限和总错误概率 两似然函数为 解：按题意 H0: x(t)=n(t) H1: x(t)=m+n(t) * §3.3 派生贝叶斯准则 由于先验概率未知，猜测一个P1* 对数似然比为 贝叶斯准则为 整理后有 ln?(x)=m(2x-m)/(2?n2) H1 H0 ln?(x) ln(P0/P1) H1 H0 x m/2+(?n2/m)ln?=? 相当于设定一个似然比门限为?=(1-P1*)/P1* 将代价因子代入极小极大方程 其中?(x)为标准正态累积分布函数 解得检测门限 ?=m/2 即 1-?(?/?n)=?[(?-m)/?n] PF(P1g*)=PM(P1g*)，简单表示成PF=PM * 则总错误概率 在所给代价因子条件下 ?贝叶斯风险极大值Cmin-max退化为总错误概率 §3.3 派生贝叶斯准则 注意 ?P1 真实先验概率 ?P1g 任意猜测的先验概率 ?P1g* 贝叶斯风险取得极大值时的先验概率 Pe=PF(P1g*)=1-?[m/(2?n)] Cmin-max(P1g*)=PF(P1g*) 奈曼-皮尔逊(N-P)准则 先验概率和，代价因子都未知时采用的准则 奈曼-皮尔逊准则： 在给定虚警概率PF=?条件下，使检测概率PD达到最大 在这种情况下，人们最为关心的是虚警概率PF=P(H1|H0)和有信号时的正确概率PD=P(H1|H1),希望PF尽可能的小而PD尽可能的大。 这在数学上属于有约束条件的变分问题 PD极大 相当于 PM=PD=P(H0|H1)=1-PD 极小 PD与PF的关系… * * 应用拉格朗日乘数 ? 构造一个目标函数 类似于求最小风险 C 的情况，将所有使被积函数0的点划入R0 ?判为H0 §3.3 派生贝叶斯准则 J=PM+ ?(PF-?)=PM+ ?[1-P(H0|H0)-?] J=PM+ ?(PF-?) 其中 ? 为拉格朗日乘数，使 J 达到极小 * 即 为满足约束条件PF=?，要求似然比门限 ? 满足 对于给定的?，可获得? 然后再可获得其它的判决概率 这里将似然比函数 ?(x)作为似然比变量? §3.3 派生贝叶斯准则 p(x|H1)-?p(x|H0)0 ? 判为H0 H1 H0 ? * 需要指出 ? 因为似然比 ?(x)是两个概率(密度)之比?可能的值域 [0,?)，所以 ? 的定义域也是[0,?) §3.3 派生贝叶斯准则 ? p(?|H1)是H1为真时似然比 ? 的分布，不是观测变量x的分布 ? 奈曼-皮尔逊准则可看成在贝叶斯准则中取 ?贝叶斯准则是由先验概率和代价因子求似然比门限和判决概率，而N-P准则是由虚报概率 ? 求似然比门限 ? 和检测概率 PD，实质是“恒虚警检测” * * §3 信号的统计检测 北京大学 信息学院 刘爱民 * 信源 S 发出的信号有两种可能，称为两种假设 数字通信中的二元信号 “0” 和 “1” 是最简单的信号模型 信号发出之前就已经确定，与传输过程无关，只取决于 信源的性质 在信号 x被接受后假设 Hi为真的概率 既与先验概率有关，又与似然函数有关 §3.1 信号检测的基本概念 两元假设 信号“0”? 假设 H0 信号“1”? 假设 H1 四种概率 先验概率P(H0), P(H1) 后验