回归分析中参数估计的一种新方法.pdfVIP

维普资讯 2001年 l2月 应用数学与计算数学学报 第 15卷 第 2期 D 2001 COMM 0N APPL MATH AND COM PUT Vol15 No．2 回归分析中参数估计的一种新方法 王玉杰 张大克 【天津轻工业学 院基础科学系天津 300222) 摘 要：本文根据矩阵的广义逆理论，建立了回归分析中进行参数估计 的一种新方法 ，浚方法更简单更精确． 关键词：回归分析， moore-penrose逆 ，参数估计． 1．引 言 任 回归分析 中，人们一般都是用最小二乘法进行参数估计 ．当运用最小 二乘法进行参数估计 的正规方程组出现病 态时，人们会用岭回归估计、广 义岭回归估计或根方有偏估计等方法进行参数估计 ，以避免参数估计结果 的不可靠性 ．本文根据矩阵的广义逆理论，运用矩阵的 moore—penrose逆 ， 为 回归分析建立一种新 的参数估计方法 ，供人们在 回归分析 中进行参数估 计 时使用 ． 2．矛盾线性方程组解 的讨论 设有矛盾线性方程组 ： Ax=b f11 其 中 A ∈ b∈矗”． ∈R ，且 rank(Ab)≠ramk(A】． 定义 1 若方程组 [11)的解 满足 z= lIAx—bll，则称 为方程组 (1) 的最小二乘解 ．其 中 ．1l为欧 氏范数． 一 般来说，矛盾方程组 (1】的最小二乘解是不唯一的，但在方程组 (1】的 最小二：乘解 的集 台中，具有极小范数的解是唯一的． 定义 2 若方程组 f1)的最小二乘解 z满足 =rainIxll，则称它为方程组 (1)的极小范数最小二乘解或最佳逼近解 ． 定理 1 方程组 (1)的极小范数最小二乘解 唯一 ． 由定义 2和定理 1知，矛盾方程组 (1)的最优解应是它 的极小范数最小 二乘解． 3．矩阵 moore—penrose逆的性质 定义 3设A ∈R ，若存在 ，l『XTf,／阶矩阵 ，它 同时满足 (1)J4 A=A，(2) 本文 1999年 12月 1日收到 维普资讯 应用数学 与计算数学学报 l5卷 XAX ：x，(3)(AX) =AX，(4)(XA)=XA．则称 x 为 的 moore—penrose 逆 ，记为 +． 定理 2 设 A∈R… 且A=BC是 4‘的最大秩分解 ，则 x=C (cc了’)-1 ． (BTB) B 是 4‘的 moore-penrose逆 ，即 +=c(cc ) (B B) B ． 推论 1 设 A ∈ ．rank(A)=r、则 (1】当r=n时 (A 为列满秩矩 阵)．4+=(AgA)一 ： (2】当r= 时 ( 为行满秩矩 阵)．+=A (AAT) ； (31当r=m=n时 (为满秩矩阵)、+=A一． 推论 2 若 rank(A】0、则矩阵 的moore．penrose逆一定存在且唯一． m∑ 定理 3 矛盾方程组 (1)的极小范数最小二乘解 (最佳逼近解)为X=A b． 由定理 3知，要求矛盾方程组 (1)的最优解 ，只须求 出其系数矩阵 A的