ch2-点估计-final.pptx

　 第2章 点估计主要内容2.1矩估计与相合性2.2最大似然估计与渐近正态性2.3最小方差无偏估计2.4 C-R不等式2.5贝叶斯估计 2.1矩估计与相合性2.1.1矩估计矩估计的基本思想是“替代”,具体是：● 用样本矩(即矩统计量)估计总体矩;● 用样本矩的函数估计总体矩的相应函数。 这里的矩可以是各阶原点矩,也可以是各阶中心矩。这一思想是英国统计学家皮尔逊在1900年提出的。2.1.1矩估计例2.1.1 设x1,x2,…,xn是来自某总体的一个样本,只要该总体的各阶矩存在,都可对总体若干参数用矩法获得矩估计,常用的矩估计有:　● 总体均值μ=E(x)的矩估计为 ,它是μ的无偏估计。　● 总体方差σ2=E(x-μ)2与标准差σ的矩估计分别为： 它们分别是σ2与σ的渐近无偏估计。2.1.1矩估计例2.1.1 若记vk=E(x-μ)k为总体k阶中心矩,为样本的k阶中心矩,则有:　● 总体偏度βs=v3/(v2)3/2的矩估计为： 　 ● 总体峰度 βk=v4/(v2)2-3的矩估计为：　2.1.1矩估计例2.1.1　● 二维总体的相关系数的矩估计是二维样本(x1,y1),(x2,y2),…,(xn,yn)的样本相关系数：　2.1.1矩估计例2.12 设x1,x2,…,xn是来自均匀分布U(a，b)的一个样本,试求a，b的矩法估计。 若从均匀分布U(a,b)获得如下一个容量为5的样本:4.5,5.0,4.7,4.0,4.2，求a，b的矩法估计。2.1.1矩估计例2.1.3 设样本x1,x2,…,xn来自正态总体N(μ,σ2),μ与σ未知,求p=P(X1)的估计。 从正态总体中获得一个容量为n=25的样本,由样本观察值得到样本均值与样本标准差分别为 0.95和0.04,求p=P(X1)的矩法估计。2.1.1矩估计 矩估计的优缺点优点：统计思想简单明确,易为人们接受,且在总体分布未知场合也可使用。缺点：1.不唯一, 2.样本各阶矩的观测值受异常值影响较大,不够稳健,实际中要尽量避免使用样本的高阶矩。 2.1.2相合性定义2.1.1　 设θ∈Θ为未知参数,对每个自然数n, 是θ的一个估计量,假如 依概率收敛于θ,即对任意给定的ε0,有　P(| | ε)→0(n→∞)(2.1.1) 则称 为 的相合估计。????2.1.2相合性定理2.1.1(辛钦大数定律)　 设x1,x2,…,xn是一列独立同分布的随机变量序列,若其数学期望μ有限,则对任意给定的ε0,有　P→0(n→∞)　样本K阶矩是总体K阶矩的相合估计。特别地，样本均值是总体均值的相合估计。2.1.2相合性定理2.1.2　 设 分别是 的相合估计,若 是 元连续函数,则 是 的相合估计。2.1.2相合性例2.1.4 常用的矩估计都具有相合性。从上述两个定理立即可以得出以下结论:●样本 阶矩 是总体 阶矩的相合估计。●样本 阶中心矩 是总体 阶中心矩 的相合估计,因为总体 阶中心矩总可展开成若干个 阶矩和低于 阶矩的多项式。　2.1.2相合性 例2.1.4●样本变异系数 （或 ），样本偏度 ，峰度 分别是相应总体参数 的相合估计。● 在例2.1.3中,是正态概率 的相合估计。这表明在样本量较大时,矩估计 偏离 较大的可能性会很小。 2.2最大似然估计与渐近正态性2.2.1最大似然估计定义2.2.1　 设x=(x1,x2,…,xn)是来自某分布p(x; θ)(密度函数或分布列)的一个样本。在给定样本观察值x时,该样本x的联合分布p(x; θ)是θ的函数,称其为θ的似然函数,记为L(θ; x),有时还把x省略,记为 L(θ)=L(θ; x)=p(x; θ)=若在参数空间Θ={θ}上存在这样的 ,使L( )达到最大,即 L( )= L(θ)(2.2.2)则称 为θ的最大似然估计,简记为MLE。2.2.1最大似然估计例2.2.1 设x=(x1,x2,…,xn)是来自二点分布b(1,θ)的一个样本,其中诸xi非0即1,θ∈[0,1]是成功概率,该样本的联合分布为: 其中 是 的充分统计量，当给定样本x（等价于给定充分统计量t）后，譬如