第10章回归分析PPT.ppt

岭回归 示例10L01（郭秀花，赵连伟. SAS 6.11版岭回归分析程序设计及其实例分析.数理统计与管理. 2001, 20(1):41-44,64）： 实例选自胡良平主编的“现代统计学与SAS应用”一书。 有人在某地抽样调查了29例儿童的血红蛋白与4种微量元素的含量,资料如下,试问可否用4种微量元素(单位都是μmo1/L)钙(X1)、镁(X2)、铁(X3)、铜(X4)来较好地预测血红蛋白(Y,g/L)的含量? 数据文件SasData10L01.txt 岭回归 /* SasProg10L01.Sas */ Data data01; infile e:\sas\sasdata\sasdata10L01.txt; Input y x1-x4; Proc standard m=0 s=1 out=data02; run; Proc reg data=data02 outest=rrr; /* 实现岭回归*/ Model y=x1-x4/ridge=0.0 to 1.0 by 0.1 collinoint; Plot rsq.*np./ridgeplot; /* 绘制岭迹图 */ Run; Proc print data=rrr; Run; STANDARD过程把x1,x2,…,xm,y作标准化转换,转换后的标准化变量均数为0,标准差为1。 岭回归 结果 共线性分析表明，自变量之间的共线性主要表现在X2与X3、X1与X4之间。 本例适合采用岭回归进行分析。在不同的岭参数下,各自变量的回归系数保存在数据集rrr中。 从岭迹图或从数据集rrr中可以看到，当岭参数大于0.1时，自变量的回归系数趋于平稳(以水平直线为渐进线)，故选岭参数为0.2时的标准化回归方程为： y=6.0663E-16 -0.20612x1 + 0.17949x2 + 0.65829x3+ 0.08377x4 岭回归 结果 从岭回归结果（Parameter Estimates）中可以得知：在4种微量元素中，影响血红蛋白的含量达到显著性水平的有：铁及钙。 从回归系数的符号可知：铁的含量提高，有助于血红蛋白含量的提高，而钙的吸收量加大后，反面会使血红蛋白含量减少。 Nlin过程 非线性回归模型（Nonlinear regression）的估计方法有多种思路， 常见的有先利用变量变换将模型转换为线性模型，然后进行估计； 或者使用泰勒级数展开式进行逐次的线性近似估计，直至达到迭代收敛标准。 严格地讲，能够通过变量变换被转化为线性回归方程，并通过对该线性模型的估计以求得参数值的模型只能被称为曲线回归模型（固有线性模型）；直接进行估计的才是非线性回归模型（固有非线性模型）。 Nlin过程 SAS中主要有两个过程可以实现非线性回归，分别是Nlin过程和Nlmixed过程，后者是非线性混合效应模型。 Nlin过程使用最小二乘法或加权最小二乘法实现非线性回归模型的参数估计。 与Reg过程相比，Nlin过程中除简单列出参与回归模型的变量外，用户还必须给出方程表达式，定义未知参数名称，并给出所有参数的初始值。 由于非线性模型的复杂性，Nlin过程并不保证所有模型都能被拟合出来。 Nlin过程 Nlin过程的一般格式： PROC NLIN options ; MODEL dependent=expression ; PARAMETERS parameter=values ,..., parameter=values; BOUNDS inequality , ... , inequality ; BY variables ; DER.parameter=expression ; DER.parameter.parameter=expression ; ID variables ; OUTPUT OUT=SAS-data-set keyword=names ,...,keyword=names; CONTROL variable =values ... variable =values ; Nlin过程 Nlin过程在进行非线性回归模型参数估计时，提供了5种不同的迭代（有哪些信誉好的足球投注网站）方法： Gauss（默认方法），高斯法，又称改良高斯-牛顿法（Modified Gauss-Newton method）； Marquardt，麦夸特法（Marquardt method）； Newton，牛顿法（Newton method）。 Gradient，梯度法（Gradient method），又称最速下降法（Steepest descent method）； Dud，又称错位法（False position）或多元割线法（Multiva