第9章 含定性变量的回归模型9.pptVIP

§9.3 因变量是定性变量的回归模型 2. 零均值异方差性。 当因变量是定性变量时，误差项εi仍然保持零均值，这时出现的另一个问题是误差项εi的方差不相等。0-1型随机变量εi的方差为 D(εi)=D(yi) =πi(1-πi) =(β0+β1xi)(1-β0-β1xi) （9.14） εi的方差依赖于xi，是异方差，不满足线性回归方程的基本假定。 §9.3 因变量是定性变量的回归模型 3.回归方程的限制 当因变量为0、1虚拟变量时，回归方程代表概率分布，所以因变量均值受到如下限制： θ≤E(yi)=πi≤1 对一般的回归方程本身并不具有这种限制，线性回归方程yi=β0+β1xi将会超出这个限制范围。 §9.4Logistic回归模型 一、分组数据的Logistic回归模型 针对0-1型因变量产生的问题，我们对回归模型应该做两个方面的改进。 第一，回归函数应该改用限制在[0，1]区间内的连续曲线，而不能再沿用直线回归方程。 §9.4Logistic回归模型 限制在[0，1]区间内的连续曲线有很多，例如所有连续型随机变量的分布函数都符合要求，我们常用的是Logistic函数与正态分布函数。Logistic函数的形式为 Logistic函数的中文名称是逻辑斯谛函数，或简称逻辑函数。 §9.4Logistic回归模型 第二，因变量yi本身只取0、1两个离散值，不适于直接作为回归模型中的因变量。 由于回归函数E(yi)=πi=β0+β1xi表示在自变量为xi的条件下yi的平均值，而yi是0-1型随机变量，因而E(yi)=πi就是在自变量为xi的条件下yi等于1的比例。这提示我们可以用yi等于1的比例代替yi本身作为因变量。 下面通过一个例子来说明Logistic回归模型的应用。 §9.4Logistic回归模型 例9.4 在一次住房展销会上，与房地产商签定初步购房意向书的共有n=325名顾客中，在随后的3个月的时间内，只有一部分顾客确实购买了房屋。购买了房屋的顾客记为1，没有购买房屋的顾客记为0。以顾客的年家庭收入（万元）为自变量x，对如下的数据，建立Logistic回归模型 §9.4Logistic回归模型 §9.4Logistic回归模型 Logistic回归方程为 其中c为分组数据的组数，本例c=9。做线性化变换，直接在Transform-Compute Variable中进行，令 上式的变换称为逻辑（Logit）变换，得 pi′=β0+β1xi+εi （9.16） （9.18） （9.17） §9.4Logistic回归模型 在线性回归对话框中，注意变量名和意义。计算出经验回归方程为 -0.886+0.156x （9.19） 判定系数r2=0.9243，显著性检验P值≈0，高度显著。还原为（9.16）式的Logistic回归方程为 利用（9.20）式可以对购房比例做预测，例如对x0=8， §9.4Logistic回归模型 我们用Logistic回归模型成功地拟合了因变量为定性变量的回归模型，但是仍然存在一个不足之处，就是异方差性并没有解决，（9.18）式的回归模型不是等方差的，应该对（9.18）式用加权最小二乘估计。当ni较大时，pi′的近似方差为： 其中πi=E(yi)，因而选取权数为： wi=nipi(1-pi) §9.4Logistic回归模型 用加权最小二乘法 输出结果 §9.4Logistic回归模型 用加权最小二乘法得到的Logistic回归方程为 对x0=8时的购房比例做预测 §9.4Logistic回归模型 二、未分组数据的Logistic回归模型 设y是0-1型变量，x1,x2,…,xp是与y相关的确定性变量， n组观测数据为(xi1 ,xi2 ,…,xip ;yi)，i=1,2,…,n， yi与xi1 ,xi2 ,…,xip的关系为： E(yi)=πi=f(β0+β1xi1+β2xi2+…+βpxip) 其中函数f（x）是值域在[0，1]区间内的单调增函数。对于Logistic回归 §9.4Logistic回归模型 于是yi是均值为πi=f(β0+β1xi1+β2xi2+…+βpxip)的0-1型分布，概率函数为： P(yi=1)=πi P(yi=0)=1-πi 可以把yi的概率函数合写为： i=1,2,…,n 于是y1, y2 , …, yn的似然函数为： §