应用多元统计课件chi4.4.ppt

* 第四章§4.4 多因变量的逐步回归 本节讨论多因变量时关于自变量的逐步筛选方法,它的基本思想及基本步骤和一个因变量情况下逐步回归的基本思想和基本步骤一样. 不同之处是:由于因变量个数有p个,考虑引入自变量或剔除自变量时要计算这个自变量对p个因变量的贡献大小,体现贡献大小的量不是偏回归平方和了,要引入其它统计量(如§4.3的Vi统计量)来描述它.本节重点介绍和一个因变量情况下的逐步回归不一样的内容. 第四章§4.4 多因变量的逐步回归 基本理论 为考察某个自变量对p个因变量的贡献大小,以下来讨论两个基本模型下参数估计的关系. 设r个自变量(不妨记为x1,…,xr)与p个因变量Y1, Y2,…, Yp的n次观测资料满足以下模型 其中 第四章§4.4 多因变量的逐步回归 基本理论 如果增添一个自变量xu,相应n次观测值为(u1,u2 ,…,un )’=u,这时r+1个自变量与p个因变量的n次观测值满足模型: 在模型(4.4.1)和(4.4.2)下利用参数估计量之间的关系(见定理4.4.1)可以构造检验统计量. 第四章§4.4 多因变量的逐步回归 基本理论 定理4.4.1 (4.4.3) 其中 第四章§4.4 多因变量的逐步回归 基本理论--检验H0：b(u)=0 1×p 根据§4.3的公式(4.3.10)选统计量 利用定理4.4.1还可得出 第四章§4.4 多因变量的逐步回归 基本理论--检验H0：b(u)=0 1×p 检验统计量取为 第四章§4.4 多因变量的逐步回归 基本理论--检验H0：b(u)=0 1×p 利用最大似然比方法,可引入统计量U,且有 U=…=1-Vu 其中 (4.4.4) 显然 是变量xu对p个因变量的“贡献”. 第四章§4.4 多因变量的逐步回归 基本理论--检验H0 (i) ：b(i)=0 1×p 设 b(i)是参数阵B中第i个行向量 : 由§4.3回归系数的显著性检验的讨论可知，在H0(i) 成立时统计量 第四章§4.4 多因变量的逐步回归 多因变量逐步回归的步骤 设有p个因变量与m个自变量，观测数据阵为 准备工作 考虑是否对原始数据进行标准化; 由中心化后的数据阵计算m+p阶矩阵L =L(0); 规定引入变量时的显著性水平αin和剔除变量时的显著性水平αout 第四章§4.4 多因变量的逐步回归 多因变量逐步回归的步骤 2. 逐步筛选自变量 从L(0)出发利用消去变换进行多因变量逐步回归计算 . 第1步：考虑从m个自变量x1,…, xm中能否引入变量; 不妨设已引入回归方程的变量记为x1,…, xr(r≤m).每引入或剔除一个自变量作一次消去变换， L(0)经若干次消去变换后化为L(r) . 第k步：考虑能否剔除老变量的步骤. 第k+1步：考虑能否引入新变量的步骤. 第四章§4.4 多因变量的逐步回归 多因变量逐步回归的步骤 3. 给出计算结果 设筛选自变量的过程结束时,入选的自变量为 xi1,xi2,…, xir (r ≤m),矩阵L(0) 经多次消去变换后化为L(r) . (1) Yj与xi1,xi2,…, xir的回归方程 (j=1,2,…,p); (2) 协差阵Σ的无偏估计 ; (3) 第j个因变量Yj 对xi1,xi2,…, xir 的多元回归模型的残差平方和Qj,复相关系数Rj …. 第四章§4.4 多因变量的逐步回归 多因变量逐步回归的例子 例4.4.1 (例4.3.1的继续) 试用逐步筛选的方法求Y1, Y2与x1, x2, x3, x4, x5的关系式. 解 取显著性水平αin=αout=0.05,利用消去变换对自变量作筛选,最终入选的变量为x3, x4, x5 回归关系式为 复相关系数R1=0.9855, R2=0.9900. * * * *