第11章主成分分析和因子分析r1206.pptVIP

2008年8月 主成分分析和因子分析都是多元分析中处理降维的两种统计方法。只有当原始数据中的变量之间具有较强的相关关系时，降维的效果才会明显，否则不适合进行主成分分析和因子分析 主成分和因子的选择标准应结合具体问题而定。在某种程度上取决于研究者的知识和经验，而不是方法本身 即使得到了满意的主成分或因子，在运用它们对实际问题进行评价、排序等分析时，仍然要保持谨慎，因为主成分和因子毕竟是高度抽象的量，无论如何，它们的含义都不如原始变量清晰 因子分析可以看作是主成分分析的推广和扩展，而主成分分析则可以看作是因子分析的一个特例。目前因子分析在实际中被广泛应用，而主成分分析通常只作为大型统计分析的中间步骤，几乎不再单独使用 几点说明 2008年8月 本章小节 主成分分析和因子分析的基本原理 主成分分析和因子分析的异同 主成分分析和因子分析的数学模型 用SPSS进行主成分分析和因子分析 用主成分分析和因子分析对实际问题进行综合评价 结 束 * * * * * * * * * * * * * * * * * As a result of this class, you will be able to ... * 2008年8月 根据主成分分析模型和因子载荷，可以得到两个主成分与原来6个变量之间的线性组合表达式如下 怎样解释主成分？(主成分与原始变量的关系) 注意：表达式中的不是原始变量，而是标准化变量 11.2 因子分析 11.2.1 因子分析的意义和数学模型 11.2.2 因子分析的步骤 11.2.3 因子分析的应用 第 11 章 主成分分析和因子分析 11.2.1 因子分析的意义和数学模型 11.2 因子分析 2008年8月 由Charles Spearman于1904年首次提出的 与主成分分析类似，它们都是要找出少数几个新的变量来代替原始变量 不同之处：主成分分析中的主成分个数与原始变量个数是一样的，即有几个变量就有几个主成分，只不过最后我们确定了少数几个主成分而已。而因子分析则需要事先确定要找几个成分，也称为因子(factor)，然后将原始变量综合为少数的几个因子，以再现原始变量与因子之间的关系，一般来说，因子的个数会远远少于原始变量的个数 什么是因子分析？ (factor analysis) 2008年8月 因子分析可以看作是主成分分析的推广和扩展，但它对问题的研究更深入、更细致一些。实际上，主成分分析可以看作是因子分析的一个特例 简言之，因子分析是通过对变量之间关系的研究，找出能综合原始变量的少数几个因子，使得少数因子能够反映原始变量的绝大部分信息，然后根据相关性的大小将原始变量分组，使得组内的变量之间相关性较高，而不同组的变量之间相关性较低。因此，因子分析属于多元统计中处理降维的一种统计方法，其目的就是要减少变量的个数，用少数因子代表多个原始变量 什么是因子分析？ (factor analysis) 2008年8月 因变量和因子个数的不一致，使得不仅在数学模型上，而且在实际求解过程中，因子分析和主成分分析都有着一定的区别，计算上因子分析更为复杂 因子分析可能存在的一个优点是：在对主成分和原始变量之间的关系进行描述时，如果主成分的直观意义比较模糊不易解释，主成分分析没有更好的改进方法；因子分析则额外提供了“因子旋转(factor rotation)”这样一个步骤，可以使分析结果尽可能达到易于解释且更为合理的目的 因子分析的数学模型 2008年8月 原始的p个变量表达为k个因子的线性组合变量 设p个原始变量为 ，要寻找的k个因子(kp)为 ，主成分和原始变量之间的关系表示为 因子分析的数学模型 因子分析的数学模型 系数aij为第个i变量与第k个因子之间的线性相关系数，反映变量与因子之间的相关程度，也称为载荷(loading)。由于因子出现在每个原始变量与因子的线性组合中，因此也称为公因子。?为特殊因子，代表公因子以外的因素影响 2008年8月 共同度量(Communality) 因子的方差贡献率 因子分析的数学模型(共同度量Communality和公因子的方差贡献率 ) 变量xi的信息能够被k个公因子解释的程度，用 k个公因子对第i个变量xi的方差贡献率表示 第j个公因子对变量xi的提供的方差总和，反映第j个公因子的相对重要程度 11.2.2 因子分析的步骤 11.2 因子分析 2008年8月 因子分析要求样本的个数要足够多 一般要求样本的个数至少是变量的5倍以上。同时，样本总数据量理论要求应该在100以上 用于因子分析的变量必须是相关的 如果原始变量都是独立的，意味