自变量选择与逐步回归推荐.ppt

* 中国人民大学六西格玛质量管理研究中心 * * 中国人民大学六西格玛质量管理研究中心 * §8 .3 Logistic回归基本理论和方法 目录 上页 下页 返回 结束 估计Logistic回归模型与估计多元回归模型的方法是不同的。多元回归采用最小二乘估计，将解释变量的真实值与预测值差异的平方和最小化。而Logistic变换的非线性特征使得在估计模型的时候采用极大似然估计的叠代方法，找到系数的“最可能”的估计。这样在计算整个模型拟合度的时候，就采用似然值而不是离差平方和。 * 中国人民大学六西格玛质量管理研究中心 * §8 .3 Logistic回归基本理论和方法 目录 上页 下页 返回 结束 * 中国人民大学六西格玛质量管理研究中心 * §8 .3 Logistic回归基本理论和方法 目录 上页 下页 返回 结束 前面已提到Logistic回归在估计系数时，是用的极大似然估计法。就象多元回归中的残差平方和，Logistic回归对模型拟合好坏通过似然值来测量。（实际上是用－2乘以似然值的自然对数即－2 Log似然值，简记为－2LL）。一个好的模型应该有较小的－2LL。如果一个模型完全拟合，则似然值为１，这时－2LL达到最小，为0。Logistic回归对于系数的检验采用的是与多元回归中t检验不同的统计量，称为Wald统计量。有关Logistic回归的参数估计和假设检验详见参考文献[8]。 * 中国人民大学六西格玛质量管理研究中心 * §8 .3 Logistic回归基本理论和方法 目录 上页 下页 返回 结束 一、分组数据的Logistic回归模型 针对0-1型因变量产生的问题，我们对回归模型应该做两个方面的改进。 第一，回归函数应该改用限制在[0，1]区间内的连续曲线，而不能再沿用直线回归方程。限制在[0，1]区间内的连续曲线有很多，例如所有连续型随机变量的分布函数都符合要求，我们常用的是Logistic函数与正态分布函数。Logistic函数的形式为 （8.4） Logistic函数的中文名称是逻辑斯谛函数，或简称逻辑函数。 这里给出几个Logistic函数的图形。见图8-1、图8-2。 * 中国人民大学六西格玛质量管理研究中心 * §8 .3 Logistic回归基本理论和方法 目录 上页 下页 返回 结束 图8-1 的图形 * 中国人民大学六西格玛质量管理研究中心 * §8 .3 Logistic回归基本理论和方法 目录 上页 下页 返回 结束 图8-2 的图形 * 中国人民大学六西格玛质量管理研究中心 * §8 .3 Logistic回归基本理论和方法 目录 上页 下页 返回 结束 * 中国人民大学六西格玛质量管理研究中心 * §8 .3 Logistic回归基本理论和方法 目录 上页 下页 返回 结束 【例8.2】 在一次住房展销会上，与房地产商签定初步购房意向书的共有n=325名顾客中，在随后的3个月的时间内，只有一部分顾客确实购买了房屋。购买了房屋的顾客记为1，没有购买房屋的顾客记为0。以顾客的年家庭收入（万元）为自变量x，对如下的数据，建立Logistic回归模型 * 中国人民大学六西格玛质量管理研究中心 * §8 .3 Logistic回归基本理论和方法 目录 上页 下页 返回 结束 表8.2 3.333 0.693147 0.666667 10 15 9.5 9 5.143 0.287682 0.571429 12 21 8.5 8 6.857 0.287682 0.571429 16 28 7.5 7 9.590 0.257829 0.564103 22 39 6.5 6 10.698 -0.13976 0.465116 20 43 5.5 5 12.692 -0.31015 0.423077 22 52 4.5 4 14.345 -0.20764 0.448276 26 58 3.5 3 7.719 -0.37949 0.406250 13 32 2.5 2 5.440 -0.75377 0.320000 8 25 1.5 1 权重 wi=nipi(1-pi) 逻辑变换 实际购房 比例 pi=mi/ni 实际购房 人数 mi 签定意向 书人数 ni 年家庭收 入(万元) x 序号 * 中国人民大学六西格玛质量管理研究中心 * §8 .3 Logistic回归基本理论和方法 目录 上页 下页