概论论语数理统计教程 第6章 点估计.ppt

四、一致性 定义5 注 ： 例5 讨论例1中 解：① ② 由契贝晓夫不等式 例6 证明： 6.4 Rao-Cramer不等式 一 、一致最小方差无偏估计 定义1 如果存在 问题： 1) 一个无偏估计的方差是否可以任意小？ 2) 如果不可以，其下限是什么？ 3) 什么条件下方差下界存在？ 二 、Rao-Cramer不等式 定理1 设 为取自具有概率函数 的总体 的一个样本， a,b为已知常数，可以设 ，又 是 的一个无偏估计，且满足正则条件： 1）集合 与 无关； 存在，且对一切 2） 3）令 称为信息量，则 有 当 时，有 此不等式称为罗—克拉美不等式，也称为信息不等式。 注： 1°若 是离散型随机变量， 相应的积分号改为求和号。 2°在使用R-C不等式时可不必验证2）是否成立，因为在一 般情况下，当1）成立时2）自动满足。 3°满足1）、2）假定的估计量称为正规估计。 4°R-C下界不是所有无偏估计的下界，而是无偏估计类中一 个子集 ——正规无偏估计的方差下界。 5°R-C的重要作用—达到R-C下界的估计量一定是UMVUE.反 之不然。即UMVUE不一定达到R-C下界。 6° 信息量的意义 当 越大， 越小估计精度高，而 则认为模型本身所含的信息量较多，或者说 易认识， 反应了模型中含有信息的量。 所以可视 性质：若 则 三 、有（优）效估计 定义2 若 的一个无偏估计使罗—克拉美不等式中 等式成立，即 则称 的有效估计。 定义3 （有效率）若 估计，则称 注： 1）显然 可见使有效率e=1的无偏估计必为 的有效估计。 2）若 则称 的渐进有效估计。 例1、设母体 为未知参数， 的无偏估计的方差下界。 试求 解： 的概率函数为 因此 所以方差下界为： 所以， 达到了C-R下界， (4) 在最大值点的表达式中, 用样本值代入就得参数的最大似然估计值 . 求最大似然估计(M.L.E)的一般步骤是： (1) 由总体分布导出样本的联合分布率(或联合密度); (2) 把样本联合分布率 ( 或联合密度 ) 中自变 量看成已知常数,而把参数 看作自变量,得到似然 函数 ; (3) 求似然函数 的最大值点(常常转化为求 的最大值点) ，即 的M.L.E; 例2 解：设 于是 似然函数 两边取对数得 似然方程 解方程得 故 的M.L.E为： 例3 解：（1）设 总体的概率函数为 于是似然函数 取对数 于是似然方程 解得 即得 的M.L.E为： 对 求导得 解得： 于是 的极大似然估计为 (2) 取对数 似然方程 解得： 所以 的M.L.E为 例4 解：设 似然函数 要使 达到最大，须 达到最小，但 不能小于 ，否则 便不是来自均匀总体，另一方面， 是单减函数，故 当 定理2 （渐近正态性） （P272—273） 定理1 （M.L.E）的不变性 3 极大似然估计的性质 三、课堂练习 例1 设总体 的概率密度为 其中 是未知参数 , 是取自 的样本, 求参数 的矩估计. 解 由密度函数知 例 2 设 是取自总体 的一个样本 其中 0 , 求 的矩估计. 具有均值为 的指数分布 即 E(X- ) = D(X- )= E(X)= D(X)= 故 解 样本矩 总体矩 解得 的矩估计量为 故 解得 也就是 E(X)= D(X)= 的矩估计量为 于是 解 似然函数为 对数似然函数为 例3 设 是取自总体 的一个样本 求 的最大似然估计值. 其中 0, 求导并令其为0 =0 从中解得 即为 的最大似然估计值 . 对数似然函数为 这一讲，我们介绍了参数点估计, 给出了寻求估计量最常用的矩法和极大似然法 . 参数点估计是用一个确定的值去估计未知的参数 . 看来似乎精确 ，实际上把