复共线回归模型的病态分离算法.pdfVIP

第33卷 第l期 武汉理工大学学报(鸯垩裂差) V01．33NO．1 2009年2月 ofWuhan Journal of Feb．2009 UniversityTechnology (TransportationScienceEngineering) 复共线回归模型的病态分离算法* 胡俊航1’2’ 童恒庆” (武汉理工大学理学院” 武汉430070)(河南质量工程职业学院经济与管理系鼬 平顶山467001) 摘要：当线性回归模型的设计矩阵复共线时．称其列向量呈现病态．文中提出一种病态分离的交互 投影算法，用该算法对复共线的一般线性回归模型作出参数估计，并证明了算法的收敛性．将此算 法应用于复共线的线性联立方程模型，同时讨论了这种参数估计的渐近优良性质，并指出此算法 的优越性． 关键词：线性回归；病态分离；交互投影；参数估计 中图法分类号：0212．1 DOI：10．3963／j．issn．1006—2823．2009．01．038 0 引 言 Y=邵十g (1) 式中：l，为咒×1维向量；x为，z×P设计矩阵；卢 x 当设计矩阵列复共线(列向量呈现病态)时， 为P 1维向量；￡为，z×1维向量．可将式(1)写 成 用最小二乘法(OLS)估计的参数性质很差．为了 omin (2) 解决这一问题，许多人给出了较为可行的办 ||y一即Il 法n。2]．以上这些方法在一定程度上改进了估计参 它可以看作是求一定点y到一个P维线性 数的性质．对线性联立方程模型，在满足一定的条 子空间邳，卢∈R’上的投影．当设计矩阵X列复 共线时，可以把设计矩阵x实行病态分离，把x 件下，可以用间接最小二乘法(II。S)，广义最小二 和卢剖分为X=(x，f％)，∥=(厦f厦)使线性相 乘法(GLS)，二阶段最／b_C乘法(2SLS)，三阶段 关的列分开．这样就有 最小二乘法(3SLS)，有限信息极大似然估计法 (LIML)，完全信息极大似然估计法(FIML)等 ||y—x。卢，一x：尼II坐min(3) 参数估计方法．但是，当线性联立方程模型的设计 xz屁(卢。∈R屯，P2+Pz—P，当P为偶数时， 矩阵出现列复共线时，用现有的方法效果就不太 最好取P。一Pz)是一线性子空间．可以证明y— 理想．本文提出一种凸集间交互投影的迭代算法， x，屈，肪∈R9-是～闭凸集(在点y—x。肛，与点y 采用病态分离的方法对设计矩阵呈现列复共线的 —xt肌。连线上，任取一点l，一x，肛，+t(X。(卢。，一 线性回归模型进行参数估计，并证明了该算法是 声-z))，0≤t≤l，显然仍属集合y—xt卢t(卢，∈ 收敛的，同时讨论了用该方法估计出的参数所具 R—t)．于是式(3)可以看作是求一闭凸集与一线性 有的渐近优良性质． 子空间的距离‘引，可以使用交互投影的迭代方 法阻川．