统计学--第八章相关与回归分析 课件.ppt

统计学课件 统 计 学 STATISTICS 第八章 相关与回归分析 第三节 多元线性回归分析 假设为了得到未知参数的估计值，我们对被解释变量和解释变量进行了n次观测，代入多元线性回归模型，可得n个随机模型： 一、多元线性回归模型 (一)多元线性回归模型的矩阵表示 第八章 相关与回归分析 为了使多元线性回归分析和计算更方便、更简洁，可以用矩阵形式表示： 第三节 多元线性回归分析 一、多元线性回归模型 (一)多元线性回归模型的矩阵表示 第八章 相关与回归分析 第三节 多元线性回归分析 定义 依照矩阵运算法则，上式可表示为： 类似的，定义 第八章 相关与回归分析 我们把基本假定用矩阵的形式表示出来： 第三节 多元线性回归分析 一、多元线性回归模型 (二)多元线性回归模型的基本假定 1.零均值假定可以表示为： 第八章 相关与回归分析 第三节 多元线性回归分析 2. 同方差和无序列相关可以表示为： 第八章 相关与回归分析 4.解释变量与随机误差项不相关假定可表示为： 或 第三节 多元线性回归分析 3. 随机误差项服从正态分布可以表示为： 解释变量之间不存在多重共线性可表示为： 如果上成立， 至少有k+1 阶子式不为零，表明解释变量之间 也就是要求系数行列式 不存在线性相关关系。 等价于 第八章 相关与回归分析 由样本回归模型 和样本回归方程 ，可得残差向量为： 第三节 多元线性回归分析 二、多元线性回归模型的估计 (一)参数的普通最小二乘估计 对上式两边分别对 求一阶导数，并令一阶偏导数为零，得 由假定 ，可以得到参数估计量为： 第八章 相关与回归分析 第三节 多元线性回归分析 二、多元线性回归模型的估计 (一)参数的普通最小二乘估计 对上式两边分别对 求一阶导数，并令一阶偏导数为零，得 由假定 ，可以得到参数估计量为： 第八章 相关与回归分析 第三节 多元线性回归分析 二、多元线性回归模型的估计 (二)参数普通最小二乘估计量的性质和分布 在多元线性回归条件下，参数的最小二乘估计仍然具有线性、 无偏性和最小方差性。 由于 ,可以看出 具有线性特性， 稍加变换，它还是 的线性组合。 由此可见 是无偏的。 第八章 相关与回归分析 在无偏性的基础上，我们可以得到 的方差-协方差矩阵： 第三节 多元线性回归分析 二、多元线性回归模型的估计 (二)参数普通最小二乘估计量的性质和分布 第八章 相关与回归分析 第三节 多元线性回归分析 二、多元线性回归模型的估计 (二)参数普通最小二乘估计量的性质和分布 由于 的线性组合，而 假定是服从正态分布的，所以 也是服从正态分布的，即 由于 是不可观测的，所以其方差没有办法计算出来， 因此 的方差-协方差矩阵的估计值为： 是 只能进行估计。可以证明： 第八章 相关与回归分析 在多元线性回归模型中，总平方和仍可分解为回归平方和和残差平方和 . 第三节 多元线性回归分析 三、多元线性回归模型的检验 (一)拟合优度检验 三个平方和的矩阵表示分别为： 第八章 相关与回归分析 多元线性回归判定系数仍表示