7多元统计分析..pptVIP

* 欲对我校现有的23个学院学生的综合能力水平进行分析； 引例 我们可以选取能反映学生各方面能力水平的一些代表性指标，（如各科考试平均成绩、综合素质评分、考研率、社会实践能力评分、毕业论文毕业设计优秀率等等，）根据这些指标对23个学院进行分类，然后根据分类结果对学生的能力水平进行综合评价，再做出科学的分析。 设有n个样品X1, X2,…,Xn，每个样品Xi 测得p项指标（变量），原始资料矩阵为 X=(xij)n×p, 不同的行，代表着不同的样品 不同的列，对应着不同的指标 注1： 指标（变量）有定性指标和定量指标之分，不同类型的指标在进行相互比较时有很大的差异。 注2： 分类可分为对样品分类和对指标分类两种情况，方法上基本一样。 * 需要将这些样品分成多少类？ 分类的原则是什么？具体怎么进行分类？ 分类的依据是什么？ 我们要解决的问题是 基本思想： 首先确定一种描述两个样品的相似程度的尺度，然后基于这一尺度按照某种原则建立起一种分类方法，这种原则中同时规定了分类过程终止的条件，因此能够给出分类的个数。 分类： 有系统聚类法、有序样品聚类法、动态聚类法、模糊聚类法、图论聚类法等。 * 对样品间相似程度的描述 ---- 距离 和 相似系数 距离： --- 是描述样品之间接近程度的最常用的尺度. 有若干种不同的具体定义方式，各有特点； 如： 闵氏距离（包括我们熟知的欧氏距离） 受量纲的影响大，没有考虑指标间的相关性等等 兰氏距离（在判别分析中已介绍） 马氏距离（在判别分析中已介绍） 不受量纲影响，但仍没考虑指标间的相关性。 注3： 针对各种定性指标还有若干其他的“距离”的定义。 两个样品的 “距离”越大 接近程度就 越小！ * 相似系数： --- 是描述样品之间相似程度的常用尺度. 也有若干种不同的具体定义方式，常用的有 夹角余弦 相关系数（类似一般的变量间的相关系数） 注4： 对于标准化后的原始数据而言，二者相等。 注5： 对样品分类一般多用“距离” 。 * 系统聚类法概述 基本思想： 在定义了样品与样品间的距离的基础上，再定义类与类之间的“距离”；初始将n个样品看成n个类，然后按照将类间距最小的两类合并成一新类的准则，逐次缩小分类的数目，直至所有样品并成一类。 并类过程可以用系统聚类图形象地表达； 有若干不同的类间距离定义方式，导致出不同的系统聚类法； （常见的有八种：最短距离法、最长距离法、中间距离法、重心法、类平均法、可变类平均法、可变法、离差平方和法） 各有优缺点; 步骤都一致；可以被统一起来. 基本步骤如书中所示；P256 * 本章学习要领 重点要求： 理解如下概念： 马氏距离，后验概率；相关关系，主成分, 因子分析法； 熟悉判别分析和主成分分析法所解决的实际问题的背景，了解相应的数学模型； 掌握如下方法： 距离判别分析的方法； 随机向量的数字特征；多元样本的数字特征； 主成分分析的方法； 聚类分析的方法 课后练习： P262 T5，6 * * * 对判别效果作检验 --- 检验两个正态总体的均值向量是否相等。 （涉及到两个多元正态总体的均值差的检验问题，略） 对待判样品判别归类 （如下表） 样品号 国家 判别函数W(X)的值 判别类别 11 12 13 14 中国 罗马尼亚 希腊 哥伦比亚 -24.47899 -15.58135 10.29443 4.18289 2 2 1 1 距离判别法不需要知道总体分布类型，只要协方差存在即可. 简单，便于使用。 不足之处： 第一，判别方法与总体各自出现的概率的大小无关； 第二，判别方法与错判之后所造成的损失无关。 Bayes判别法就是为了解决这些问题而提出的一种判别方法 * 二、贝叶斯判别 1、基本思想 假定我们对所研究对象（总体）有一定的认识（能求得先验概率），先从总体中随机抽取一个样本，用样本来修正已有的认识（求得后验概率），再在后验概率的基础上对于任给的一个样品进行类别判断。 先验概率 ----- 由经验或以往的数据分析而得到的概率。 后验概率 -----依据新得到的信息再重新加以修正后得到的概率。 例如：甲袋中装有八个球，5白3红；乙袋中装有七个球，6白1红。 现从 甲袋中任取一球放入乙袋，再从乙袋中随机取出一球。 若记 A=“从甲袋中取出的是红球”，B=“从乙袋中取出的是红球” 则 A的先验概率 A的后验概率 (一)标准Bayes判别方法 * 设k个p维总体G1,G2,…,Gk的概率密度分别为 在观测到一个样品 x 的情况