判别分析及实现.pptVIP

判别分析及实现;统计方法（判别分析）:;判别分析:;;在 MATLAB 中，计算欧氏距离有多种方法;2.绝对距离： ;3. 闵可夫斯基距离 ： 设有n维向量x= (x1,x2,…,xn),y=(y1,y2,…,yn)，则称;4.马氏距离：马氏距离是由印度统计学家马哈拉诺比斯(PC Mahalanobis)提出的，由于马氏距离具有统计意义，在距离判别分析时经常应用马氏距离. ;(2) 一个向量到一个总体的马氏距离;Generate some correlated bivariate data in X and compare the Mahalanobis and squared Euclidean distances of observations in Y: X = mvnrnd([0;0],[1 .9;.9 1],100); Y = [1 1;1 -1;-1 1;-1 -1]; d1 = mahal(Y,X) % Mahalanobis d1 = 1.3592 21.1013 23.8086 1.4727 d2 = sum((Y-repmat(mean(X),4,1)).^2, 2) % Squared Euclidean d2 = 1.9310 1.8821 2.1228 2.0739;(3) 两个总体之间的马氏距离;马氏距离有如下的特点：;1.2 两个总体的距离判别;距离判别法: 设有两个协方差相同的总体 ， 且;;② 线性判别函数(Ⅱ) ;;于是距离判别准则简化为：;1. 两个总体协方差矩阵相等;判别步骤：;上述公式可以化简为：;例1.现测得6只Apf和9只Af蠓虫的触长,翅长数据 Apf：(1.14,1.78), (1.18,1.96), (1.20,1.86), (1.26,2.00), (1.28,2.00), (1.30,1.96) Af：(1.24,1.72), (1.36,1.74), (1.38,1.64), (1.38,1.82), (1.38,1.90), (1.40,1.70), (1.48,1.82),(1.54,1.82), (1.56,2.08);解：;在MATLAB中mahal 计算马氏距离平方;按照如下的判别准则：; 均未知时的判别法则 ;例 ;;; ; ;例1.现测得6只Apf和9只Af蠓虫的触长,翅长数据 Apf：(1.14,1.78), (1.18,1.96), (1.20,1.86), (1.26,2.00), (1.28,2.00), (1.30,1.96) Af：(1.24,1.72), (1.36,1.74), (1.38,1.64), (1.38,1.82), (1.38,1.90), (1.40,1.70), (1.48,1.82),(1.54,1.82), (1.56,2.08);解：; 从例1，我们发现对于两个总体的协方差矩阵是否相等，得到的结论可能不同，因此在解决实际问题时，首先要判别两个总体的协方差矩阵是否相等？;对于例1，应用检验程序如下(?=0.05)：;3. 判别准则的评价;（1）回代误判率 设G1，G2为两个总体，X1,X2,…,Xm和Y1,Y2,…,Yn是分别来自G1，G2的训练样本，以全体训练样本作为m+n个新样品，逐个代入已建立的判别准则中判别其归属，这个过程称为回判。;解：;for j=1:9, n2(j)=(b(j,:)-m1)*inv(s)*(b(j,:)-m1)-(b(j,:)-m2)*inv(s)*(b(j,:)-m2); n2=0; if n20 n2=n2+1; else n2=n2; end end;（2）交叉误判率估计 交叉误判率估计是每次剔除一个样品，利用其余的m+n－1个训练样本建立判别准则再用所建立的准则对删除的样品进行判别。对训练样本中每个样品都做如上分析，以其误判的比例作为误判率，具体步骤如下：;于是交叉误判率估计为： ;1.3. 多个总体的距离判别;1.4.距离判别的Matlab编程实现;距离判别的CLASSIFY命令实现：;第四十五页，共八十八页，2022年，8月28日;第四十六页，共八十八页，2022年，8月28日;第四十七页，共八十八页，2022年，8月28日;2 贝叶斯(Bayes)判别; 距离判别只要求知道总体的数字特征，不涉及总体的分布函数，当参数和协方差未知时，就用样本的均值和协方差矩阵来估计。距离判别方法简单实用，但没有考虑到每