第十三章 主成分分析和因子分析 .pdf

第十三章 主成分分析和因子分析 第十三章 主成分分析和因子分析 在建立多元回归模型时，为了更准确地反映事物的特 征，人们经常会在模型中包含较多相关解释变量，这不仅 使得问题分析变得复杂，而且变量之间可能存在多重共线 性，使得数据提供的信息发生重叠，甚至会抹杀事物的真 正特征。为了解决这些问题，需要采用降维的思想，将所 有指标的信息通过少数几个指标来反映，在低维空间将信 息分解为互不相关的部分以获得更有意义的解释。本章介 绍的主成分分析和因子分析可用于解决这类问题。 1 13.1 主成分分析 13.1 主成分分析 主成分分析（principal components analysis，简称 PCA ）是由霍特林（Hotelling ）于1933年首先提出的。 它通过投影的方法，实现数据的降维，在损失较少数 据信息的基础上把多个指标转化为几个有代表意义的 综合指标。 2 13.1.1 主成分分析的基本思想 13.1.1 主成分分析的基本思想 假如对某一问题的研究涉及p 个指标，记为X ，X , …, 1 2 X ，由这p 个随机变量构成的随机向量为X=(X , X , …, X )， p 1 2 p 设X 的均值向量为，协方差矩阵为。设Y=(Y , Y , … , Y ) 1 2 p 为对X 进行线性变换得到的合成随机向量，即 Y     X      1 11 12 1p 1      Y     X      2 21 22 2p 2          （13.1.1）              Y X p  p 1 p 2 pp  p     设=( ,  , …,  )，( i 1 , 2 , , p ), A=( ,  ,…, i i1 i2 ip 1 2 )，则有 p Y AX （13.1.2）