高维数据回归分析中基于LASSO的自变量选择.pdfVIP

· 229 · 中国卫生统计 2013 年 12 月第 30 卷第 6 期 ·综述· 高维数据回归分析中基于 LASSO 的自变量选择* 张秀秀1 王 慧1 田双双1 乔 楠1 闫丽娜2 王 彤1△ 生物信息学背景下普遍存在着高维数据，所谓的 n ^ OLS { ( ) 2 } ( T ) －1 T 高维 即待估计的未知参数的个数是样本量的一个 β = arg min ∑ yi － ∑βj xij = X X X y “ ” i = 1 j 〔1〕， ( ) 〔2〕 但是， 不再适用于高维数据分析 究其原因，主 或几个数量级 例如 Vant Veer 2002 等学者收 OLS 。 ， 要有两个〔6〕: 集的乳腺癌数据集共包括 259 例乳腺癌患者 25000 ， 第一 预测精度 估计虽是无偏的，但在自 个微阵列基因数据 研究变量个数 25000 远远大于样 、 。OLS ， 变量间线性相关程度较高时预测精度较差，即估计值 本量 259 存在“高维”现象。传统的方法进行参数估 ( 计和统计推断的一个必要前提是待估参数的个数小于 的方差通常较大。而预测精度可以压缩 甚至设置为 ， ) 回归系数加以改进，即通过适度牺牲估计的无偏 样本量 这样统计推断的结果才是稳定、可靠的。对于 0 ， 高维数据回归分析，经验研究表明自变量进入模型的 性 以达到改进整体预测精度的目的。 顺序不同所得到的回归系数的估计方差亦不相同，甚 第二、模型的稳定性。OLS 估计在自变量个数很 ， 至变异很大，提示估计结果不稳定，此时通常需要考虑 多时获得的结果不稳定。此时 我们往往希望筛选出 ( ) 〔3〕 一个较小的自变量子集来获得最好的预测效果 其他变量选择策略。Fan 等 2001 年 提出变量选 。 : ( ) ; ( ) 常用的对 进行改进的方法有