3多元回归new精品.pptVIP

因此，可构造如下t统计量 显然，如果某个自变量Xi对Y的作用不显著，它的系数βi就取值为零，因此可构造如下t检验。 2、t检验 设计原假设与备择假设： H1：?i?0 给定显著性水平?，可得到临界值t?/2(n-p-1)，由样本求出统计量t的数值，通过 |ti |? t?/2(n-p-1) 或 |ti|?t?/2(n-p-1) 来拒绝或接受原假设H0，从而判定对应的解释变量是否显著，是否应包括在模型中。 H0：?i=0 （i=0,1,2…p） 注意2：多元线性回归中，t检验与F检验不一致。可以从另外一个角度考虑自变量xj的显著性。 一方面，t检验与F检验都是对相同的原假设H0：?1=0 进行检验; 另一方面，两个统计量之间有如下关系：F=t2 注意1：一元线性回归中，t检验与F检验一致 构造偏F统计量对原假设H0：?j=0 进行F检验： 其中SSR(j)表示在删除xj后，用y对其余的p-1个自变量得到的回归平方和，残差平方和记为SSE(j)。 可见，包括常数项在内的13个解释变量计算的p值都大于0.05，所以拒绝原假设, 说明所有自变量都在95%的置信水平下对y不显著，即都未通过了变量显著性检验。 剔除多余变量的方法——后退法 先剔除计算p值较大的一个变量，然后进行新的回归并对方程检验，有不显著变量再剔除，直到留下的变量都通过了显著性检验。 承上例按P值依次剔除不显著的变量（原则上每次只剔除一个变量），最终得到以下结果： 三、参数的置信区间 参数的置信区间用来考察：在一次抽样中所估计的参数值离参数的真实值有多“近”。 在变量的显著性检验中已经知道： 容易推出：在(1-?)的置信水平下?i的置信区间是 其中，t?/2为显著性水平为? 、自由度为n-p-1的临界值。 四、 回归拟合优度评价和决定系数 拟合优度：检验回归方程对样本观测值的拟合程度。 两变量回归决定系数的公式 该统计量越接近于1，模型的拟合优度越高。 问题： 在应用过程中发现，如果在模型中增加一个解释变量， R2往往增大（Why?) 这就给人一个错觉：要使得模型拟合得好，只要增加解释变量即可。 但是，现实情况往往是，由增加解释变量个数引起的R2的增大与拟合好坏无关，R2需调整。 调整的可决系数 在样本容量一定的情况下，增加解释变量必定使得自由度减少，所以调整的思路是:将残差平方和与总离差平方和分别除以各自的自由度，以剔除变量个数对拟合优度的影响: 其中：n-p-1为残差平方和的自由度，n-1为总体平方和的自由度。 * 赤池信息准则和施瓦茨准则 为了比较所含解释变量个数不同的多元回归模型的拟合优度，常用的标准还有: 赤池信息准则（Akaike information criterion, AIC） 施瓦茨准则（Schwarz criterion，SC） 这两准则均要求仅当所增加的解释变量能够减少AIC值或AC值时才在原模型中增加该解释变量。 §3.5 中心化和标准化 回归方程的准确性会受到舍入误差的影响,其原因主要包括两个方面： 1）在回归分析中数据量级有很大差异； 2）设计矩阵X的列向量近似线性相关时,X’X为病态矩阵,其逆矩阵就会产生较大的误差； 此外, 方程还会受到模型关系的设定误差和其它随机因素的影响。 一、 中心化 多元线性回归模型的一般形式为： 多元线性经验回归方程的一般形式为： 上述多元线性经验回归方程的转变为： 中心化的意义 减少一个自变量(常数项)系数的估计, 减少工作量, 手工计算通常将数据中心化. 上述多元线性经验回归方程的回归系数不能说明两个自变量对因变量的相对重要性. 二、 标准化 当自变量所用的单位不同时, 用OLS建立的回归方程的回归系数不可比, 得不到合理的解释. 例如: 二、标准化回归系数 为了消除在回归分析中数据量纲和数量级的差异 带来的影响，对样本数据进行标准化。 用最小二乘法，求出标准化的样本数据的经验回归方程为： 标准化后回归系数具有可比使得自变量对于因变量的重要性可比。 当自变量相关会影响回归系数的大小。 其中:?j为自变量标准化的回归参数。 标准化包含了中心化，所以标准化后的常数项为零。容易验证标准化的回归参数和普通的回归参数存在关系式： SPSS输出回归系数估计表 §3.6 相关阵与偏相关系数 一、样本相关阵 方程的复相关系数，反映