12.第十二讲 多重线性回归.ppt

图示：前进法 计算lij、 方程外的变量分别进 入方程，计算SS回增 加量增加最大者为XK XK进入方程 显著 对XK进行检验 不显著 结束 前进法 Y，X1　X2 X3 X4 X5 第一步 建立5个方程 Y与x1 P1=0.015 Y与x2 P2=0.003 Y与x3 P3=0.026 Y与x4 P4=0.223 Y与x5 P5=0.665 选入X2 方程中有一个变量 前进法 第二步 建立4个方程 Y与X2，x1 P1=0.023 Y与x2 ，x3 P2=0.005 Y与x2 ， x4 P3=0.223 Y与x2 ， x5 P4=0.635 选入X3 方程中有二个变量 x2 ，x3 前进法 第三步 建立3个方程 Y与X2，X3，x1 P1=0.023 Y与X2，X3， x4 P2=0.000 Y与X2，X3， x5 P3=0.535 选入X4 方程中有三个变量 X2，X3， x4 前进法 考虑在剩余的X1、X5选入。 若P有小于0.05，继续考虑选入。 依次循环，直到方程外也选不入，计算停止，此时的方程为前进法的最优方程。 后退法的基本思想 选定一个标准 开始所有变量均在方程中 按自变量对y的贡献大小由小到大依次剔除变量。 每剔除一个变量，则重新计算方程内各自变量对y的贡献。 直到方程内变量均达到入选标准，没有自变量可被剔除为止。 图示：后退法 变量全部进 入方程 方程内的变量分别剔 除，计算SS回减少量 ，减少量最小者为Xk 剔除Xk 显著 对XK进行检验 不显著 不剔除Xk,结束 后退法 Y，X1　X2 X3 X4 X5 第一步 建立1个方程 Y与X1 ，X2，X3，X4 ，X5 后退法 第二步 建立5个方程（考虑剔除） Y与X1 ，X2，X3，X4 无X5所损失 P1=0.723 Y与X1 ，X2，X3，X5 无X4所损失 P2=0.005 Y与X1 ，X2，X4 ，X5 无X3所损失 P3=0.123 Y与X1 ，X3，X4 ，X5 无X2所损失 P4=0.035 Y与X2，X3，X4 ，X5 无X1所损失 P4=0.535 后退法 第三步 建立4个方程（考虑剔除） Y与X1 ，X2，X3 无X4所损失 P1=0.003 Y与X1 ，X2，X4 无X3所损失 P2=0.005 Y与X1 ，X3，X4 无X2所损失 P4=0.035 Y与X2，X3，X4 无X1所损失 P4=0.535 后退法 第四步 建立3个方程（考虑剔除） Y与X2，X3 无X4所损失 P1=0.003 Y与X2，X4 无X3所损失 P2=0.002 Y与X3，X4 无X2所损失 P3=0.005 后退法 若P都小于0.05，不能剔除，直到方程内剔不出，计算停止，此时的方程为后退法的最优方程。 逐步回归 将自变量逐个地引入方程，引入的条件是该自变量的偏回归平方和在未选入的自变量中是最大的，并F检验具有显著意义。另一方面，每引入一个新变量，要对先前选入方程的自变量逐个进行F检验，将偏回归平方和最小且无显著性的自变量剔出方程，直到方程外的自变量不能再引入，方程内的自变量不能再