线性相关和回归一-线性回归.docVIP

线性回归 上一章讨论的线性相关用于描述两个随机变量X与Y之间线性联系的程度，结论所反映的是它们相互之间的关系，两变量并无主次之分。 随着所探索问题的深入，研究者通常更感兴趣于其中的一个变量如何定量地影响另一变量的取值，如医学研究中常需要从某项指标估算另一项指标，如果这指标分别是测量变量X和Y，我们希望由X推算Y的值。我们称X为自变量，Y则称为依赖于X的因变量。 如果Y与X的关系呈线性时，我们可以用线性回归（linear regression）描述两者的关系。 回归的概念： 100多年前，有位英国遗传学家(Galton)注意到当父亲身高很高时，他的儿子的身高一般不会比父亲身高更高。同样如果父亲很矮，他的儿子也一般不会比父亲矮，而会向一般人的均值靠拢。当时这位英国遗传学家将这现象称为回归，现在将这概念引伸到随机变量有向回归线集中的趋势。 即观察值不是全落在回归线上，而是散布在回归线周围。但离回归线越近，观察值越多，偏离较远的观察值极少，这种不完全呈函数关系，但又有一定数量的关系的现象称回归。 二．线性回归的统计描述： （一）线性回归的方程： =a + bX （二）线性回归的参数估计： 线性方程：Y=a+bX 回归方程：=a+bX 式中a，b是决定回归直线的两个系数。 a为截距，b为回归系数，即直线的斜率。 b的统计学意义是X每增加(减)一个单位，Y平均改变b个单位。 怎样的最好地代表了所有的Y，需要有个标准。 经典的标准是最小二乘(least squares)原则：每个观察点距离回归线的纵向距离的平方和最小。 得： 用例8.1，示范线性回归的计算过程： =74.17+0.5698X 三．回归系数的统计推断： （一）回归系数的假设检验（t检验）： 1. 建立检验假设：H0：β=0，H1：β≠0，α=0.05 2. 计算统计量t： υ=n-2 先计算剩余标准差s： 已知： b=0.5698 s为剩余标准差：即去除X对Y的作用后，Y的变异。 回归系数的标准误为： （） 3. 确定概率和判断结果：υ=n-2=20-2=18，P0.01，拒绝H0，可认为回归系数有统计学意义。 （二）回归方程的假设检验（方差分析，ANOVA）： 建立检验假设： H0：回归无贡献 H1：回归有贡献 α=0.05 2. 计算统计量F： 方差分析的基本思想：将总的变异分离成各个部分，确定各部分变异的来源，然后将处理因素的变异与随机变异（误差）比较。如果比值接近1，说明都是随机变异，如果比值远大于1，说明处理变异中除随机变异外还有效应变异存在。 在Y的总变异（总离均差平方和）中，包含回归离均差平方和和残差离均差平方和。 即：SST = SSr + SSe 总SST是： 回归SSr是： 残差SSe是：698.55-603.63=94.92 方差分析的统计量是F值： 变异 来源 离均差平方和 （SS） 自由度 (υ) 均方 (MS) F值 回归 603.63 1 603.63 114.54 残差 94.92 18 5.27 总 698.55 19 3. 确定概率和判断结果：查υ1=1和υ2=18的F界值(附表6.1)， 得F=4.41，P0.05，可以认为回归有贡献。 （★ 分子的自由度为1时，） （三）确定系数： 相关系数的平方称为确定系数，它反映回归贡献的程度。相当于在总离均差平方和中回归能解释的百分比。即说明回归贡献占Y的总变异中的比例。 本例r=0.9296，R2=0.8641，即由父亲的身高信息大约可解释儿子身高变异性的86%。 四．几种置信区间估计： 1. β的置信区间： 意义：估计X对Y的效应有多大，如例9.1：回归系数为0.5698，置信区间是（0.48, 0.68），说明儿子身高起码有一半是受父亲影响的。 2. 的置信区间： 意义：当估计出Y的值（），根据置信区间可以知道误差有多大。如例9.1：某父亲身高165.8cm，估计他儿子的身高是168.64cm，置信区间是167.51~169.77cm，误差不大。 3. 个体Y值的预测区间： 意义：在X取值为x*时，Y的参考值范围（Reference range）。如例9.1：某父亲身高165.8cm，估计他儿子的身高是168.64cm，Y的参考值范围是163.68~173.59cm。 如：建立年龄与血压的线性回归方程后，可估计每个年龄的血压参考值范围。 五．回归的应用： 1. 预测：由X预测Y的值。例：由父亲身高预测儿子成人后身高。 2. 控制：由Y值控制X的取值范围。 已知