第六章_点估计.doc

点估计 一、内容要点与要求 1. 本章重点概括 本章要求学生正确理解参数点估计的概念。掌握矩估计法，明确其实质是用样本矩来替换总体矩，即皮尔逊替换原则。掌握极大似然估计法，明确其基本思想是选取估计量，使得该样本发生的可能性最大，能熟练地求出某些常见分布中未知参数的极大似然估计量。掌握关于判别估计量优良性的一致性、无偏性、有效性这三个准则，并能熟练地加以运用。掌握罗-克拉美(Rao-Cramer)不等式的条件、结论，能求一些常见分布中未知参数的无偏估计量之方差的罗-克拉美下界，会求一些常见分布中未知参数的有效估计，或会证明某是的有效估计。掌握充分统计量的概念和奈曼(Neyman)因子分解定理，并会加以应用。 点估计方法一般有两种，一种为矩估计法，一种为极大似然估计法。矩估计法比较直观，对任何总体都适用，方法简单，但需要保证总体的相 应的矩存在，若不存在就不能用矩估计的方法。而极大似然估计对任何总体也都适用，从它得到估计量一般有有效性，并且常常具有无偏性，即使不具有无偏性，也可以修正偏差使估计值与待估计参数的真实值充分接近。极大似然估计法的缺点是往往要解一个似然方程，而这个方程在有些情况下是很难解的。 在分析估计量的好坏时，应首先考虑一致性，即看估计量是否依概率收敛于所估计的参数，不具备一致性的估计量我们一般是不予考虑的。估计量是一个随机变量，对于不同的样本值，一般给出参数不同的估计值，因而在考虑估计量的优劣时，应该从某种整体性能去衡量，而不能看它在个别样本之下表现如何。 一般来说，矩估计和极大似然估计都不一定是无偏估计。无偏估计要求估计量的数学期望等于待估参数，但无偏估计不一定是有效估计，如正态总体期望的估计量，其中是无偏估计，但只有当时，才是有效估计。 由于统计量很多，那么怎样的统计量才是最佳的呢？直观的想法是，一方面要尽可能的简单，另一方面又要能提供样本所含的“全部信息”，由此引出了充分统计量的定义。直接从定义出发判断一个统计量是不是充分统计量有时很困难，奈曼给出了一个较为方便的因子分解定理。 2. 基本概念 1) 点估计 设总体X的分布已知，是待估参数。为来自该总体一个样本，若构造一个统计量，并 用估计，则称是的估计量。 2) 一致性 若是的估计量，如果对于任意，总有 ， 则称为的一致估计量。 3) 无偏性 若未知参数的估计量满足 则称具有无偏性，并称是的无偏估计量。 4) 渐近无偏性 若未知参数的一个估计有偏，但当时， 则称为的渐近无偏估计量。 5) 有效性 若和都是的无偏估计量，且，则称较有效。若对固定的样本容量n，达到最小，则称为的最小方差无偏估计，记为UMVUE。 6) 罗—克拉美(Rao-Cramer)不等式 设是取自总体的一个样本，，又 是的一个无偏估计，且满足正则条件： (a)集合与无关； (b)与存在，且对一切， (c) 令 称为信息量，则 这个不等式称为罗—克拉美不等式。罗—克拉美不等式指出，在样本容量给定时，的无偏估计的方差不可能无限的小，它有一个下界，称这个下界为下界。 7) 有效估计 若的一个无偏估计使罗—克拉美不等式中等式 成立，则称为的有效估计。 8) 有效率 若是的一个无偏估计，且罗—克拉美不等式下界存在，则称与的比 为估计的有效率。 9) 充分统计量 设是取自总体的一个样本，，设 是一个统计量，有概率密度. 若 成立，且每当取一固定值时，发生条件下的条件概率函数不依赖于，则称为的一个充分统计量。 3. 基本方法、定理 1) 矩估计法 由于总体分布中的未知参数往往是总体X的一些原点矩或原点矩的函数，所以矩估计方法的主要思想就是用样本的各阶原点矩去估计相应的总体的各阶原点矩。求的矩估计量的步骤如下： (1) 求出总体的前阶原点矩（用参数表示） ， (2) 从这个方程中解出： ， (3) 用替换上述方程中的，，则得到的矩估计： ， 不难看出，只要参数可用原点矩表示，则矩法估计就能进行，无须知道总体分布。 2) 极大似然估计法 (1) 总体为离散型。设总体X的分布律为 ， 其中为未知参数。为的一个样本，其观测值为 ，每个取中的某个值，则似然函数为 选取作为的估计，使 则称极大似然估计。 (2) 总体为连续型。设总体X的概率密度函数为，其中是总体的未知参数，为的一个样本，其观测值为 。求的最大似然估计量的步骤如下： 3）奈曼(Neyman)因子分解定理 设是取自总体的一个样本，，，则统计量是一个充分统计量的充要条件是存在两个非负函数和，使得等式 成立，并且当取一定值时，函数不依赖于。 3. 一些说明 1)??关于极大似然估计 (2) 并不是对所有的似然函数都可求解似然方程 的方法解出极大似然估计量。 例如求均匀分布的未知参数的极大似然估计量，设其概率密度为