应用数理统计回归分析参考.ppt

9 回归分析 回归分析 现实世界中大多数现象表现为相关关系，人们通过大量观察，将现象之间的相关关系抽象概括为函数关系，并用函数形式或模型来描述与推断现象间的具体变动关系，用一个或一组变量的变化来估计与推算另一个变量的变化。这种分析方法称为回归分析。 9.1 一元线性回归 一 、一元正态线性回归模型 设随机变量Y，对于x的每一个值，Y都有它的分布。Y的均值是x的函数，设E(Y)=?(x)，?(x)叫做Y关于x的回归。?(x)可以通过样本进行估计。 一元线性回归模型 对于x的一组值x1, x2, ?, xn作 独立试验，对Y 得出n个观察结果 y1, y2,?, yn，得到容量为n的样本 (x1, y1), (x2, y2),?, (xn, yn)。利用样本估计?(x) 。首先从散点图看出y与x的关系, 从而推测出?(x)的形式。若?(x) 为线性函数，设?(x) =a+bx，估计?(x) 的问题称为一元线性回归问题。 一元线性回归模型 假设对于x的某个区间内的每一个值有 Y~N(a+bx,?2) Y= a+bx+? ， ? ~N(0,?2) 称为一元正态线性回归模型。 由样本到a、b的估计 ，对给定的x，取 作为 ?(x) =a+bx的估计，称 为Y关于x的线性回归方程，其图形称为回归直线。 最小二乘估计 二 、最小二乘估计 对样本(x1, y1), (x2, y2),?, (xn, yn)，有 考虑a、b的函数 最小二乘估计 最小二乘估计 得正规方程组 由于 最小二乘估计 方程组有唯一解 最小二乘估计 记 则 最小二乘估计 所求线性回归方程为 由 知 所以 对于一组样本观察值，回归直线通过散点图的几何中心 三、?2的点估计 对每一个xi，由回归方程有 xi处的残差为 ，残差平方和 可以证明 则 ?2的点估计 是?2的无偏估计 Qe的简单计算公式： ?2的点估计 由于 ，所以 四、线性假设的显著性检验(T检验法) 对线性假设y=a+bx+?进行检验，线性系数b不应当为0 原假设 H0：b=0 备择假设 H1：b?0 线性假设的显著性检验 线性假设的显著性检验 在H0成立时，取统计量为 给定显著性水平?，H0的拒绝域为 计算出|t|的值，查出 线性假设的显著性检验 若 ，则拒绝H0；否则就接受H0 。拒绝H0，意味着回归效果是显著的。在回归效果显著的情况下，对回归系数作区间估计，可得出b的置信度为1-?的置信区间为 五、线性回归的方差分析(F检验法) 线性回归的方差分析 回归平方和 残差平方和 Syy自由度为n-1， Qe自由度为n-2， S回自由度为1 线性回归的方差分析 线性回归的方差分析 原假设H0：b=0，备择假设 H1：b?0 选统计量 方差分析表 线性回归的方差分析 对检验水平?，查表得F?(1,n-2)， 计算出F值。 若FF?(1,n-2) ，则拒绝H0 ，说明回归效果显著； 若FF?(1,n-2) ，则接受H0 ，说明回归效果不显著。 例 为研究某一化学反应过程中温度x对产品得率Y的影响，测得数据如下： (1)求Y关于x的回归方程; (2)求?2的无偏估计量的值; (3)取? =0.05,问回归效果是否显著？若显著,求出b的置信度为0.95的置信区间； (4)作方差分析，检验回归效果(? =0.01)。 所以得回归直线方程为 写成另一种形式 (2) (3)已求出 由此得出 又 查出 这里45.3942.306，即|t|值在H0的拒绝域内，故拒绝H0 ，说明回归效果是显著的。 b的置信度为0.95(?=0.05)的置信区间为 (4)已求出 ，所以 已求出Syy=1932.1，Qe=7.466?7.5 Syy的自由度为9，Qe的自由度为8 列方差分析表： 对?=0.01，查出F0.01(1,8)=11.26 因为2047.3 11.26，所以回归效果是 非常显著的。 六、利用回归方程进行预报（预测） 回归问题中Y是随机变量，x是普通变量。回归方程 是Y对x的依赖关系的一个估计。