改进的岭估计在Logistic模型中的应用-概率论与数理统计专业论文.docxVIP

哈尔滨工业大学理学硕士学位论文 哈尔滨工业大学理学硕士学位论文 万方数据 万方数据 摘 要 在一般的多元回归问题中，我们通常假设自变量之间是相互独立的，因变 量是连续型变量。然而在实际应用中，自变量之间会存在多重共线性，并且因 变量是二分类的离散型变量。对于多重共线性问题的处理，岭估计是最受欢迎 的方法，同时 Logistic 回归是处理二分类数据的著名方法。因此，本文将岭估 计应用到 Logistic 回归模型中，具有很大的理论研究意义及应用价值。 本文研究了二分类 Logistic 回归模型，并且假设回归参数可能存在某些线 性约束条件时，提出了三种 Logistic 回归参数估计方法，分别为无约束估计、 约 束 估 计 和 初 步 试 验 估 计 。 当 自 变 量 的 资 料 矩 阵 奇 异 时 ， 将 岭 估 计 与 三 种 Logistic 回归估计结合，相应的提出了三种 Logistic 岭回归参数估计方法：无约 束岭估计，约束岭估计和初步试验岭估计。进一步，本文研究了这三种岭估计 的渐近分布，并求出了三种岭估计的均方误差矩阵和二次风险函数。 本文基于风险函数又对三种岭估计的优良性做了数值上的比较。比较方法 分为两类，第一类为三种岭回归估计与三种回归估计之间的比较，主要采取对 岭回归估计的风险函数关于岭参数求导数的方法，最终求出满足 Logistic 岭回 归估计优于 Logistic 回归估计的岭参数的取值范围。第二类为三种岭回归估计 之间的比较，主要采取对任意两种岭回归估计的风险函数作差的方法，最终以 具有小风险函数的估计为优，分别得到了三种岭估计为最优估计时的估计区间。 最后，本文根据印度的一组患者患肝病情况的病例数据，利用 SAS 软件，对 Logistic 无约束岭估计进行了数值模拟，最终找到了合适的岭参数，使得自变 量存在复共线性时，Logistic 无约束岭估计优于 Logistic 无约束估计。 关键词：Logistic 回归；岭回归；极大似然估计；复共线性；风险函数；优良 性 I Abstract In the multiple linear regression model, we usually assume that the explanatory variables are independent and the dependent variables are continuous. However, in practice, there may be multicollinearity between the independent variables and the dependent variables are dichotomous discrete. For the problem of multicollinearity, ridge estimation is the most popular method. And Logistic regression model is a well-known method for dichotomous data. This article will apply the ridge estimator to the Logistic regression model, it has strong research significance in theory and important value in practice. This paper mainly studies the binary Logistic regression model, and proposed three Logistic regression parameter estimators: unrestricted estimator, restricted estimator and preliminary test estimator when linear regression parameters may be some constraints. Ridge estimators are combined with three Logistic regression estimators because of multicollinearity, correspondingly we propose three Logistic ridge regression parameter estimation methods: unrestricted ridge estimator, restricted ridge estimator and pre