应用数理统计12.pptVIP

第八章 判别分析 §1 距离判别 一、Mahalanobis距离 若变量之间是相互无关的，则协方差矩阵为对角矩阵 二、两个总体的判别分析 三、多总体的判别 四、距离判别的优缺点 * * 判别分析的含义 设有k个n维总体G1, G2,…,Gk，其分布特征已知。根据给定的若干总体的观测资料，构造出一个判别函数，并由此对于某一给定样品属于哪个总体做出判断。 判别分析的主要方法： 距离判别（Distance Discrimination)，Bayes 判别，Fisher判别，逐步判别，序贯判别等。 判别思想： 根据样品到各个总体的距离的比较，判别其归属。 这里样品到总体的距离指的是样品到总体均值的距离。距离判别也称为直观判别法。 欧式距离的缺陷： 欧式距离是一种绝对距离，无法反映出概率上的差异。 当分量的性质不同时，距离的大小与单位有关。 A x o f(x) 马氏距离示意图 设 x、y 是均值向量为μ、协方差矩阵为V 的总体G 中抽取的两个样品，定义 x、y 之间的马氏距离为： 定义 x 和总体 G 之间的马氏距离为： 马氏距离满足距离的三条公理。 当V=I 时，马氏距离即为通常的欧式距离。 1. 两个总体有相同的协方差阵： (1) 直观的判别准则： 或等价地描述成： (2) 判别函数的建立 距离判别函数： 判别准则: 说明: 若 已知，令 ，则 称W (x) 为线性判别函数，a 为判别系数， 为判别常数。 G1 G2 R1 R2 x1 x2 (3) 几何解释：总体G1、G2 的支撑之间存在重叠部分。判别就是经判别函数W(x) 建立一个法则，样本空间通过W(x) 划分为两个无公共部分的区域 R1、R2 。 2. 两个总体的协方差阵不相等 (1) 判别函数： (2) 判别准则： 3. 基于观测阵的距离判别 实践中分别用样本参数估计 替代总体中的参数 4. 距离判别的计算步骤： (1) 列出样本观测阵 (2) 计算样本均值和离差矩阵 (3) 计算协方差阵的无偏估计 或 (6) 对新样品进行判别。 (5) 计算回报的误判率：对原来的部分或全部样品，分别计算到两个总体的马氏距离，并比较大小，作出归类结论，记下错判的样品个数。 (4) 计算样本协方差阵的逆矩阵 例 在企业的考核中，可以根据企业的生产经营情况把企业分为优秀企业和一般企业。考核企业经营状况的指标有： 资金利润率=利润总额/资金占用总额 劳动生产率=总产值/职工平均人数 产品净值率=净产值/总产值 三个指标的均值向量和协方差矩阵如下。现有二个企业，观测值分别为 （7.8，39.1，9.6）和（8.1，34.2，6.9）， 问这两个企业应该属于哪一类？ 7.90 11.67 21.41 11.67 54.58 40.24 21.41 40.24 6.2 10.7 产品净值率 29.8 40.7 劳动生产率 68.39 5.4 13.5 资金利润率 一般 优秀 协方差矩阵 均值向量 变量 线性判别函数： 所以, 企业1为优秀, 企业2为一般. 判别思想：将样本空间划分成互不相交的m 个部分，每一部分对应于一个总体的“势力范围” Ri 。其中 假设有m 个总体: ，它们的均值向量和协方差矩阵分别是