计量经济学 第4章 多元线性回归模型.pptVIP

第4章 多元线性回归模型 §4.1 多元线性回归模型及其参数估计 §4.2 多元线性回归模型的统计检验 §4.3 多元线性回归模型的预测 §4.4 多元线性回归分析的一般步骤 §4.1 多元线性回归模型及其参数估计 一、多元线性回归模型 二、多元线性回归模型的基本假定 三、多元线性回归模型的参数估计 四、基于OLS法参数估计量的性质 一、多元线性回归模型 多元线性回归模型:表现在线性回归模型中的解释变量有多个。 一般表现形式为： 二、多元线性回归模型的基本假定 假设1，解释变量是非随机的或固定的，且各X之间互不相关（无多重共线性）。 假设2，随机误差项具有零均值、同方差及不序列相关性 三、多元线性回归模型的参数估计(OLS) 对于随机抽取的n组观测值 四、参数估计量的性质 在满足基本假设的情况下，其结构参数?的普通最小二乘估计量仍具有： 线性性、无偏性、有效性。 五、样本容量问题 所谓“最小样本容量”，即从最小二乘原理或最大似然原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。 六、多元线性回归模型的参数估计实例 例4.1 (p74)为了研究货运量与工业总产值、农业总产值、居民非商品支出的关系，首先建立如下多元线性回归模型： * i=1,2…,n 如果我们随机抽取了一个容量为n的样本，其观测值为： 则有： 上式也被称为总体回归函数的随机表达形式。它的非随机表达式为: 方程表示：各变量X值固定时Y的平均响应。 ?j也被称为偏回归系数，表示在其他解释变量保持不变的情况下，Xj每变化1个单位时，Y的均值E(Y)的变化; 或者说?j给出了Xj的单位变化对Y均值的“直接”或“净”（不含其他变量）影响。 总体回归模型n个随机方程的矩阵表达式为 其中 样本回归函数：用来估计总体回归函数 其随机表示式: 称为残差或剩余项(residuals)，可看成是总体回归函数中随机扰动项 的近似替代。 样本回归函数/模型的矩阵表达: 或 其中： 假设3，解释变量与随机误差项不相关 假设4，随机误差项满足正态分布 ε ε ε ε ε ε ε 上述假设的矩阵符号表示 式： 假设1，n?(k+1)矩阵X是非随机的，且X的秩R(X)=k+1，即X满秩。 ε ε ε ε ε ε ε ε ε ε ε 假设2， ε ε ε ε ε ε ε ε ε ε ε ε 假设4，向量ε 有一多维正态分布，即 假设3，E(X’ε)=0，即 ε 如果样本函数的参数估计值已经得到，则有： i=1,2…n 根据最小二乘原理，参数估计值应该是下列方程组的解 其中 于是得到关于待估参数估计值的正规方程组： 正规方程组的矩阵形式： 即 由于X’X满秩，故有 将上述过程用矩阵表示如下： 即求解方程组： 得到： 于是： 例4.1：在例3.1的家庭收入-消费支出例中， 可求得 于是 0 0 0 正规方程组的另一种写法 对于正规方程组: 于是 或 (*)或（**）是多元线性回归模型正规方程组的另一种写法 。 (*) (**) ?随机误差项ε的方差?2的无偏估计 可以证明，随机误差项 ε的方差的无偏估计量为 ： 1、线性性 其中，A=(X’X)-1 X’ 为一仅与固定的解释变量X有关的向量。 的一个典型代表可以表示为： 从而线性性得证。 2、无偏性 根据（4.2.5）式有： 等式对两边取期望有： 从而无偏性得证。 3、有效性（最小方差性） 其中利用了： ε ε ε ε ε ε 对于某个估计量，显然有 其中 表示矩阵 主对角线上第i个元素。 所以，该参数估计量具有有效性（证明见《计量经济学习题集》，潘文卿，李子奈编著，高等教育出版社，2005）。 根据参数估计量的性质1和本章4.2中关于Y的正态分布特征，可以得到的结论是： 参数估计量 同样具有正态分布的特征，再结合上述性质，我们得到参数估计量的分布为： 4、正态性 ⒈ 最小样本容量 样本最小容量必须不少于模型中解释变量的数目（包括常数项）,即 n ? k+1 因为，无多重共线性要求：秩(X)=k+1 2、满足基本要求的样本容量 从统计检验的角度： n?30 时，Z检验才能应用； n-k?8时, t分布较为稳定 一般经验认为: 当n?30或者至少n?3(k+1)时，才能说满足模型估计的基本要求。 模型的良好性质只有在大样本下才能得到理论上的证明 利用E