部分因子分析.docVIP

第五部分 因子分析 本部分内容：一、主成分分析 二、因子分析 三、SPSS操作路径 一、主成分分析 （一）一个简化分析事例 1、坐标变换 假定小学某班级学生的语文成绩（X1）数学成绩（X2）的相关系数r12 = 0.6，且X1和X2都是标准化分数，其散点图如图1所示。现通过旋转（X1，X2）变换出新坐标（Y1，Y2），使新坐标的Y1轴对准散点分布方差最大的方向。下面给出由原坐标系（X1，X2）变换为新坐标系（Y1，Y2）的方法。椭圆较长的直径的方差的65%，则可进行变量简化。把变量标准化，λ即方差。 图1 图2 记随机矢量X′=（X1，X2）的协方差矩阵为∑，则 ∑= 设u是以λ为特征值的特征矢量矩阵，把上述结果代入特征值矩阵方程（∑－λI）u = 0，得 ， 。 得方程组 （1－λ）u1 + 0.6u2 = 0， 0.6u1+（1－λ）u2 = 0。 要使该方程组有非零解，系数行列式必须为零，故 。 由此解得特征值的两个取值 λ1 = 1.6， λ2 = 0.4。 代入原方程组，取 特征矢量为单位矢量，即要求 求得对应的特征矢量 =（u11，u21）=（）， =（u12，u22）=（）。 最后求得新坐标系（Y1，Y2）与原坐标系（X1，X2）的关系为 ， 。 结果显示，新坐标是通过原坐标逆时针旋转45°得到的。如此求得的新坐标即可满足“Y1轴对准散点分布方差最大的方向”这一要求。 2、特征值λi与散点分布方差的关系 矢量Y1和Y2的方差的计算公式为 Var（Y1）= Var（X）= ， 其中∑为协方差矩阵。同理 Var（Y2）= Var（X）= 。 上述结果表明，散点分布的最大变差方向由变换所得到的特征向量Y1给定，而相应的特征值λ1和λ2刻画了与各特征向量Y1和Y2对应的散点分布方差。 并且，散点分布在Y1方向上的方差占全部方向Y1和Y2上的方差的比例为 。 也就是说，散点分布变差特点的80%可以在Y1方向得到解释，而Y2方向只占20%。Y1就是本例中的第一主成分。 （思考：在原坐标系中，散点分布变差的特点在X1和X2方向上的情况如何？） （二）主成分的一般推导 1、主成分的三个特征 寻找主成分的目的，是为了根据原有统计指标体系（即原有坐标系），建立更加符合数据散点分布特征的新坐标系，在保证大部分统计信息得到反映的前提下，选择尽可能少的统计指标，简化统计描述，使统计数据中隐含的因果性因素更为清晰。主成分分析就是要揭示统计数据的变差主要出现在哪些方向上，然后选择这些方向作为简化的新坐标，用以描述统计数据的多维分布特征。 因此，主成分应满足以下三个特征： （1）在p个指标Xi（i = 1,2,3,…,p）的统计描述体系X中，表征主成分的特征矢量Yi应为原坐标Xi的线性组合，若记Yi在Xi中的分量为，则 这一要求的意思是，新坐标只能由原坐标轴产生，而不能撇开原坐标的统计内容不顾。这是为了保证，新坐标表征的统计体系在内容上与原坐标表征的统计体系相同，改变仅限于描述方式的不同。 （2），即，其中i = 1,2,3,…,p（该要求在求解λi时自然满足），并且，相应的Yi的p个特征值λi中的少数几个已包含绝大部分可解释的方差。这一要求的含义是，特征矢量为单位矢量，其中少数几个穿过数据散点分布方差较大的方向，用新坐标Yi描写数据的统计特征时，只需采用其中这些穿过数据散点分布方差较大方向的新坐标就足以描述绝大部分变差的情况，从而可以比原坐标Xi的描述简化。能否实现这一要求，须由实际的推导决定。 （3）Yi和Yj（i≠j）相互无关（正交），即新坐标轴两两独立。以数学方式表述为协方差Cov(Yi , Yj) = 0, i≠j。这一要求，在运用标准化数据的相关矩阵求解特征值λi和特征矢量Yi的过程中，将自然得到满足，无须特别处理。 2、主成分的导出步骤 综上所述，主成分可以通过以下步骤求解： （1）把数据标准化，写出标准化数据矩阵X； （2）写出相关系数矩阵： （3）通过矩阵方程