第三章 多元回归分析课件.pptVIP

第三章 多元线性回归分析 第一节 相关分析 一、相关 因果关系与相关关系 一现象随另外一现象的变化而变化，但不能够确定两现象之间存在因果关系，这种关系叫相关关系。 存在相关的事物可能有两种情况：一是互为因果关系；二是共为其它事物的因或果。 二、相关系数 在+1至-1之间 正相关、负相关和零相关 完全相关 三、相关分析的方法 积差相关: (Pearson correlation) 等级相关: (Spearman correlation, Kendall Coefficient of concordance) 质量相关：二列相关、点二列相关 品质相关：Φ相关 （一）积差相关 积差相关系数显著性检验 （二）等级相关 1、斯皮尔曼相关 等级相关系数显著性检验 2、肯德尔和谐系数 无相同等级 肯德尔和谐系数 有相同等级 肯德尔和谐系数显著性检验 检验 （三）信效度分析 重测信度 分半信度 克龙巴赫系数，a 评分者信度 效标关联效度 第二节 回归分析 两个存在相关的变量，把一个作为自变量，一个作为因变量，把两个的之间不十分准确、稳定的关系，用数学方程式来表示，则可利用该方程，由自变量的值估计、预测因变量的估计值，即回归分析。 相关为0，无法进行回归分析，相关越高，由一个变量预测另一个变量越准确。 一、一元线性回归分析 一个自变量X，一个因变量Y。 一元线性回归模型是：yi=a+bxi+ei 其中:（１）a是截距 （２）b是回归系数(regression coefficient)（回归直线的斜率） 回归系数的统计学意义是：自变量每变化一个单位，因变量平均变化的单位数 （３）ei是残差 因此直线回归方程的一般形式是： 其中 是因变量y的预测值或称估计值。 标准回归方程 回归方程的建立 平均数方法 最小二乘法 如果散点图中每一点沿Y轴方向到直线距离（ ）的平方和最小，即误差平方和最小，则在所有直线中，这条直线代表性最好。 求回归方程就是使得上述公式的值最小时a、b的值，要使误差平方和最小，对上述公式分别对a、b求偏导数，并令其等于零。 回归方程的显著性检验 回归系数的显著性检验 二、多元线性回归分析 多元线性回归模型 多元回归方程： 标准多元回归方程： 基本假设： 自变量x与应变量y之间存在线性关系 正态性：随机误差（即残差）e服从均值为 0，方差为?２的正态分布 等方差：对于所有的自变量x，残差e的条件方差为?２ ，且?为常数 独立性：在给定自变量x的条件下，残差e的条件期望值为0（本假设又称零均值假设） 无自相关性：各随机误差项e互不相关 残差e与自变量x不相关：随机误差项e与相应的自变量x不相关； 无共线性：自变量x之间相互独立 三、方程的解释能力 （一）确定系数：R2 R2称为方程的确定系数（coefficient of determination）取值在[0，1]之间。越接近1，表明方程中的自变量对因变量的解释能力越强。通常将R2乘以100%表示回归方程解释y变化的百分比。 当模型中的变量是线性关系时，R2是方程拟合优度的度量。 R2越大，说明回归方程拟合数据越好，或者说x与y线性关系越强，即回归方程中的自变量对y的解释能力越强。 （二）调整的确定系数：R2adj 随着自变量个数的增加， R2随之增大，尽管有的自由变量与y关系不显著，将其引入方程后，也使R2增加，所以要对于R2进行调整。 （三）多元相关系数 对于R2开方，就得到多元相关系数R，也叫复相关系数。在一元回归中， r2=R2 （四）偏确定系数 方程的确定系数R2表示方程中所有变量解释y的变化占y总变化的比例，但有时我们还想知道方程中的每一个变量xi对y的边际解释能力。 （五）偏相关系数（partial correlation） R2adj进行开方得到radj的绝对值 （六）方差分析 总平方和等于回归平方和加误差平方和。 SSt=SSr+SSe dft=n-1, dfr=k, dfe=dft-dfr （七）回归方程与回归系数显著性检验 （八）标准化回归系数与标准化偏回归系数 （九）多重共线性 指标： 容忍度（tolerance） 方差膨胀因子（Variance inflation factor, VIF） 条件指针（Eigenvalues and condition indexes, CI） （十）多元回归的方法 全部纳入法（Enter） 全部删除法（Remove） 向前回归法（Forward） 向后回归法（Backward） 逐步回归法（Stepwise） 第三节 路径分析 * *