极大似然估计讲述.ppt

* 令 解得 （频率值） 注意到 * 其中θ＞0，μ与θ是未知参数，X1，X2，…,Xn， 解 设总体X的概率密度为 是X 的一组样本，求μ与 θ的矩估计量. 例8 * 令 注意到 DX=E(X2)－[E(X)]2=θ2 =θ2+(θ+μ)2 * 例 9 均匀分布的极大似然估计 设样本X1，X2，… ，Xn来自在区间[ 0 , ? ] 上均匀分布的总体X , 求? 的极大似然估计. 解 设x1, x2 ,…, xn是X1, X2, …, Xn的样本值， 似然函数为 * # 如图所示，似然函数L 在 取到最大值，故θ的极大似然估计量为 * 注 意： 该似然函数不能通过求导构造似然方程. 尝试用其他方法求解！ 分析 θ的估计应满足： 2. θ的值不能小于任何一个xi. 1. θ的值尽可能小； * * 第七章 第二节 极大似然估计 极大似然估计 * 极大似然法的基本思想 先看一个简单例子： 一只野兔从前方窜过 . 是谁打中的呢？ 某位同学与一位猎人一起外出打猎 . 如果要你推测， 你会如何想呢? 只听一声枪响，野兔应声倒下 . * 基本思想: 若事件Ai 发生了, 则认为事件Ai在这n个可能结果 中出现的概率最大。 极大似然估计就是在一次抽样中,若得到观测值 则选取 若一试验有n个可能结果 现做一试验, 作为θ的估计值。 使得当 时,样本出现的概率最大。 * 极大似然估计法: 事件 发生的概率为 为 的函数， 形式已知 (如离散型) X的分布列为 的联合分布列为： 为样本的似然函数。 定义7.1 设 是 的一个样本值 * 即取 使得： 与 有关, 记为 称为参数θ的极大似然估计值。 称为参数θ的极大似然估计量。 达到最大的参数 作为θ的估计值。 现从中挑选使概率 样本的似然函数 * 若总体X属连续型, 其概率密度 的形式已知， θ为待估参数； 则 的联合密度： 一般， 关于θ可微，故θ可由下式求得： 因此 的极大似然估计θ也可从下式解得： 在同一点处取极值。 * * 故似然函数为 例1 设 是来自总体X的一 个样本， 试求参数 p 的极大似然估计值. 解：设 是一个样本值。 X的分布列为： 而 令 * 它与矩估计量是相同的。 解得 p的极大似然估计值 p的极大似然估计量 令 解得 * 设总体X的分布列为： 是来自总体X的样本，求 p 的极大 解： 似然函数为 似然估计值。 例2 * 令 即 所以参数 的极大似然估计量为 * 解 例3 设 X1, X2, …, Xn 是取自总体X 的一个样本, ，求参数λ的极大似然估计值。 似然函数为: * 例4 设 未知， 是一个样本值 求 的极大似然估计量. 解 设 的概率密度为： 似然函数为 * 等价于 因为 对于满足 的任意 有 即 时,取最大值 在 似然函数为 * 故 的极大似然估计值为: 故 的极大似然估计量为: 即 时,取最大值 在 似然函数为 * 今取得一组样本Xk数据如下，问如何估计θ？ 16 29 50 68 100 130 140 270 280 340 410 450 520 620 190 210 800 1100 某电子管的使用寿命 X （单位：小时) 服从指数分布 例5 指数分布的点估计 分析 可用两种方法：矩法估计 和极大似然估计. * 1）矩法估计 * 2）极大似然估计 构造似然函数 当xi0,（i=1,2, …,n) 时，似然函数为 取对数 建立似然方程 * 5. 得极大似然估计量： 求解得极大似然估计值 * 似然函数为： 例6 设 为未知参数， 是来自X的一个样本值，求 的极大似然估计值。 解： X的概率密度为： * 解得： 令 即： * 注：lnx 是 x 的严格单增函数，lnL 与L有相同的极大值，一般只需求lnL 的极大值. 求极大似然估计的一般步骤： 写出似然函数 2. 对似然函数取对数 3. 对?i (i =1,…, m)分别求偏导,建立似然方程(组) 解得 分别为 的极大估计值. * 例7 矩估计与似然估计不等的例子 设总体概率密度为 求参数θ的极大似然估计, 并用矩法估计θ. 解 1) 极大似然估计法 构造似然函数 2. 取对数： 当 0xi1, (i=1,2, …,n) 时 * 2. 取对数： 当 0 xi 1, (i=1,2, …,n) 时 建立似然方程 求解得极大似然估计值为 5. 极大似然估计 量为 * 2) 矩估计法 * 1. 矩法估计量与极大似然估计量不一定相同； 2. 用矩法估计参数比较简