十典型相关分析.pptVIP

第十章 典型相关分析 第一节:相关分析及基本思想 1、相关系数 2、复相关系数 3、典型相关分析 典型相关分析是研究两组变量之间相关关系的一种统计分析方法。它能够反映两组变量之间的相互线性依赖关系。 在实际问题中，两组变量之间具有相关关系的问题很多。 比如：牛肉、猪肉、鸡蛋的价格与按人口平均的牛肉、猪肉、鸡蛋的消费量之间的相关关系,可归结为研究两组变量之间的相互依赖关系。采用典型相关分析，可由第一组 变量构造一个价格指数，由第二组变量构造一个消费量指数，这两种指数分别为这两组变量的典型变量，而后研究这两种指数间的相互关系。又如，在工厂里研究产品的q个质量指标与原材料的p个质量指标之间的相关关系，这同样需要典型相关分析来研究。 可见，典型相关分析是研究两组变量之间整体的线性相关关系，它是将每一组变量作为一个整体来进行研究，而不是分析每一组变量内部的各个变量。所研究的两组变量可以看作一组是自变量，一组为因变量。一般地；为研究两组变量 一种方法是分别研究Xi与Xj(i=1, …,p1;j=p1+1, …,p1+p2)之间的相关关系，然后列出相关系数表进行分析，但当两组变量较多时，这种做法即烦琐，也不宜抓住问题的实质；另一种做法是采用类似主成分分析的思想，分别在两组变量中选取若干个有代表性的综合指标，使每一综合指标都是原变量的一个线性组合，通过研究两组综合变量之间的关系来反映两组变量之间的相关关系。 典型相关分析的基本思想：首先在每组变量中找出变量的线性组合，使其具有最大的相关性；然后在每组变量中找出第二对线性组合，使其与第一对线性组合各不相关，而第二对线性组合本身具有很大的相关性，直到两组之间的相关性被提取完毕为止。这样讨论两组变量之间的相关就转化为研究这些线性组合的最大相关，从而减少研究变量的个数。 称这种相关为典型相关，基于这种原则的分析为典型相关分析。 典型相关分析研究的是： * * 与 之间的相关关系， 第二节　　　典型相关分析的数学描述 设有两组随机变量 则X(1)、X(2)的协方差阵为 且 我们先计算U与V的相关系数 之间的相关关系. 对于任意非零常数K1和k2,有: 因此,为避免不必要的结果重复,我们常常使用U和V为标准化变量,即附加约束条件:即: 于是,问题就变成了在约束条件下,使 达到最大。 第三节 总体的典型相关系数和典型变量 一、总体的典型相关系数和典型变量的求法 在约束条件： 之下求 使 达到最大值。根据拉格朗日乘数法，这一 问题等价于求 使： 达到最大，式中的 为拉格朗日的乘数因子，对G分别对 求偏导，并令偏导为0，得方程组： 因为 所以， 也就是说，恰好是线性组合U和V之间的相关系数。 于是， 可写为： 为了具体求解，以 左乘 又由 得 代入上式 用 左乘得： 同理： 而 与 有相同的非零特征根， 为典型相关系数，相应的特征向量为 从而有p对线性组合， 称每一对变量为典型变量，由此可见，求典型相关系数和典型变量归结为求 的特征根和特征向量。 二、典型变量的性质 1. 2. 第四节：样本的典型相关系数和典型变量 在实际研究中 总体的协方差矩阵 往往是未知的，需要根据样本数据对其进行估计。 其极大似然估计为 当 时，在正态情况下， 为正定阵，故可认为 存在， 可分别作为 的估计，其非零特征根 是 的极大似然估计， 分别是 的极大似然估计 为样本的典型相关变量。 的平方根叫样本的典型相关系数 计算时也可以从样本的相关矩阵出发求样本的典型相关系数和典型变量，将样本的相关矩阵剖析为： 令 则 将其带入 同理 分别为 相应于特征根 的特征向量。 第五节 典型相关系数的显著性检验 如果随机变量之间 互不相关，则协方差矩阵 因而，典型相关系数 所以其检验问题变为： 的P1个特征根，并按大小顺序排列： 在H0成立下，Bartlett给出一个渐进结果是比较适用的： 则 在给定显著性水平a下，若算出 则否定H0