三大检验研讨.ppt

中级计量经济学 三大检验 一、最大似然估计（ML） 二、似然比检验（LR） 三、Wald检验 四、拉格朗日乘子检验（LM） 前面介绍的F检验适用于检验模型的线性约束。如果模型是非线性的、或者约束是非线性的、或者扰动项分布是非正态的，在这些情况下，F检验不再适用，通常需要采用LR、Wald、LM其中之一来检验约束条件是否成立。这三个检验方法是渐进等价的，他们所用统计量的小样本分布是未知的，但都渐进服从自由度为约束个数的卡方分布。 似然比检验（Likelihood Ratio Test,LR）、沃尔德检验（Wald Test,W）、拉格朗日乘数检验（Lagrange Multiplier,LM）是三种基于极大似然法的大样本检验方法。 * * 中级计量经济学 一、最大似然估计（ML） （一）极大似然原理 假设对于给定样本 ，其联合概率分布存在， 。将该联合概率密度函数视为未知参数 的函数，则 称为似然函数（Likelihood Function）, 即观测到所给样本的可能性. 极大似然原理就是寻找未知参数 的估计 ，使得似然函数达到最大，或者说寻找使得样本 出现的概率最大的 。 * * 中级计量经济学 （三）线性回归模型最大似然估计 1、估计结果 对数似然函数： 对未知参数求导： * * 中级计量经济学 得到， 与OLS对比 * * 中级计量经济学 3、最大似然估计量（MLE）的性质： （1）一致性： 是 的一致估计量，即 （2）渐进有效性： 是渐进有效的且达到所有一致估计量的Cramer-Rao下界，即是所有一致渐进正态估计量中方差最小的 （3）渐进正态性 * * 中级计量经济学 二、似然比检验（LR） 1、似然比 命题： 检验思想：如果约束是无效的，有约束的最大似然函数值当然不会超过无约束的最大似然函数值，但如果约束条件“有效”，有约束的最大值应当“接近”无约束的最大值，这正是似然比检验的基本思路。 似然比： 无约束模型似然函数值： 有约束模型似然函数值： * * 中级计量经济学 显然 。如果原假设是真，则 趋近于1；如果 太小，则约束无效，拒绝原假设。 可以证明，对大样本来说，检验统计量为， 拒绝域， 似然比检验另一种表达， * * 中级计量经济学 三、Wald检验 如果约束条件为真，则 不应该显著异于零，其中 是无约束极大似然估计值。当 显著异于零时，约束条件无效，拒绝原假设。 检验统计量， Wald只需要估计无约束模型，但需要计算渐进协方差矩阵。 * 中级计量经济学 * 在线性约束条件下， Wald检验 拒绝域， Wald统计量另一种表达形式， * * 中级计量经济学 四、拉格朗日乘子检验（LM） 基本思想：拉格朗日乘子检验（LM），又称为Score检验。该检验基于约束模型，无需估计无约束模型。 假设约束条件为 ，在约束条件下最大化对数似然函数，另 表示拉格朗日乘子向量，此时，拉格朗日函数为， 约束条件下最大化问题就是求解下式根， * 中级计量经济学 * 如果约束成立，对数似然函数值不会有显著变化。这就意味着在一阶条件下，第二项应该很小，特别是 应该很小。因此，约束条件是否成立检验转化成检验 ，这就是拉格朗日乘子检验的思想。 但是直接检验 比较困难，有一个等价而简单的方法。如果约束条件成立，在约束估计值处计算对数似然函数的导数应该近似为零，如果该值显著异于零，则约束条件不成立，拒绝原假设。 对数似然函数的导数就是得分向量，因此，LM检验就是检验约束条件下参数估计值的得分向量值是否显著异于零，因而，LM检验又称为得分检验。 * 中级计量经济学 * 在最大似然估计过程中，通过解似然方程 ，可以求出无约束估计量 ；如果计算有约束估计量 在此处得分，则 一般不为零，但是如果约束有效，则 趋近于零。 在原假设成立条件下， * * 中级计量经济学 对于线性约束 将有关量代入上式