多元线性回归模型的估计精选.pdfVIP

3.2 §3.2 多元线性回归模型的估计 33..22 估计方法：OLS、ML或者MM 一、普通最小二乘估计 一、普通最小二乘估计 一一、、普普通通最最小小二二乘乘估估计计 *二、最大或然估计 *二、最大或然估计 **二二、、最最大大或或然然估估计计 *三、矩估计 *三、矩估计 **三三、、矩矩估估计计 四、参数估计量的性质 四、参数估计量的性质 四四、、参参数数估估计计量量的的性性质质 五、样本容量问题 五、样本容量问题 五五、、样样本本容容量量问问题题 六、估计实例 六、估计实例 六六、、估估计计实实例例 一、普通最小二乘估计 一、普通最小二乘估计 一一、、普普通通最最小小二二乘乘估估计计 n (Y, X ), i=1,2,⋯, n, j= 0,1,2,⋯k 对于随机抽取的 组观测值 i ji 样本函数 样本函数 如果样样本本函函数数的参数估计值已经得到，则有： ˆ ˆ ˆ ˆ ˆ Y = β +β X +β X +⋯+β X i=1,2…n i 0 1 1i 2 2i ki Ki 最小二乘原理 最小二乘原理 根据最最小小二二乘乘原原理理，参数估计值应该是下列方程组的解 ⎧ ∂ ⎪ ˆ Q= 0 ∂β ⎪ 0 ⎪ ∂ n 2 n ˆ 2 Q= 0 其中 Q= e = (Y −Y) ⎪ ˆ ∑ i ∑ i i ∂β ⎪ 1 i=1 i=1 ⎨ ∂ ⎪ ˆ Q= 0 ∂β n 2 ⎪ 2 ˆ ˆ ˆ ˆ ⋮ = (Y −(β +β X + β X +⋯+β X )) ⎪ ∑ i 0 1 1i 2 2i k ki ⎪ ∂ i=1 ⎪ ˆ Q= 0 ∂β ⎩ k 正规方程组 正规方程组 于是得到关于待估参数估计值的正正规规方方程程组组： ⎧ ˆ ˆ