第六篇参数估计第一讲.ppt

导读内容 1、什么是参数估计，点估计和区间估计有何区别？ 2、矩估计法和极大似然估计法的基本原理分别是什么？如何求参数的矩估计量（值）和极大似然估计量（值）？ 3、如何评价估计量的好坏？ 例5 已知随机变量的密度函数为 其中 为未知参数，求 的矩估计量与极大似然估计量。 对于总体的同一个未知参数，由于采用的估计方法不同，可能会产生多个不同的估计量。 问题 ：当总体的同一个参数存在不同的估计量时， 究竟采用哪一个更好？ 用什么样的标准来评价估计量的好坏？ 三个常用的评价标准：无偏性、有效性和一致性。 第二节 概率与统计 浙江万里学院 李春华 编 概率与统计 浙江万里学院 李春华 编 第六章 X~P(λ),X~E(λ),X~N(μ,σ2) 用所获得的样本值去估计参数取值称为参数估计. 参数估计 点估计 区间估计 用某一数值作为参数的近似值 在要求的精度范围内指出参数所在的区间 参数估计的基本思想 第一讲 一. 矩估计法 设(X1,X2,…,Xn)是来自总体X的一个样本,根据大数定律,对任意ε0,有 并且对于任何k,只要E(Xk)存在,同样有 因此,很自然地想到用样本矩来代替总体矩,从而得到总体分布中参数的一种估计. 定义：用样本矩来代替总体矩,从而得到总体分布中参数的一种估计.这种估计方法称为矩法估计. 它的思想实质是用样本的经验分布和样本矩去替换总体的分布和总体矩.今后称之为替换原则. 设总体X具有已知类型的概率函数 得到含有未知参数(θ1,…,θk)的k个方程.解这k个联立方程组就可以得到(θ1,…,θk)的一组解: 用上面的解来估计参数θi就是矩法估计. 解: 总体X的期望为 从而得到方程 所以λ的矩估计量为 解: 其概率密度函数为 总体X的期望为 从而得到方程 所以λ的矩估计量为 解: 由于 故令 例4 设某炸药厂一天中发生着火现象的次数X服从 解 极大似然原理的直观想法是:一个随机试验如有若干个可能的结果A,B,C,….若在一次试验中,结果A出现, 则一般认为A出现的概率最大,也即试验条件对A出现有利.或者说在试验的很多可能条件中，认为应该是使事件A发生的概率为最大的那种条件存在. 极大似然估计的基本思想 二. 极大似然估计法 极大似然估计法 思想方法：一次试验就出现的 事件有较大的概率 例如: 有两外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 一箱 1 个白球 99个红球 现从两箱中任取一箱, 并从箱中任取一球, 结果所取得的球是白球. 答: 第一箱. 7-17 问: 所取的球来自哪一箱？ 例：假若一个盒子里有许多白球和红球,而且已知它们的数目之比是3:1,但不知是白球多还是红球多.设随机地在盒子中取一球为白球的概率是p.如果有放回地从盒子里取3个球,那么白球数目X服从二项分布 如果样本中白球数为0,则应估计p=1/4,而不估计p=3/4.因为具有X=0的样本来自p=1/4的总体的可能性比来自p=3/4的总体的可能性要大.一般当X=0,1时,应估计p=1/4;而当X=2,3时,应估计p=3/4. 令 求极大似然估计的一般步骤归纳如下： 例1 设随机变量X服从泊松分布 其中λ0是一未知参数,求λ的极大似然估计. 解 设(x1,x2,…,xn)是样本 (X1,X2,…,Xn)的一组观测值.于是似然函数 两边取对数得 从而得出λ的极大似然估计量为 解这一方程得 解: 总体X服从参数为λ的指数分布，则有 所以似然函数为 取对数 令 解得λ的极大似然估计值为 极大似然估计量为 例3 设 是来自正态总体N(μ,σ2)的一个样本,其中μ,σ2是未知参数,求μ与σ2的极大似然估计. 解: 正态分布的似 然函数为 两边取对数得 由微积分知识易验证以上所求为μ与σ2的极大似然估计. 分别求关于μ与σ2的偏导数,得似然方程组 解这一方程组得 例4 设总体X具有均匀分布,其概率密度函数为 求未知参数θ的极大似然估计. 解: 设 是来自总体X的一个样本.似然函数为 要使L(θ; x1,x2,…,xn)达到最大,就要使θ达到最小,由于 所以θ的极大似然估计值为： 参数θ的极大似然估计量为： 令