判别分析fisher判别等.pptxVIP

判别分析方法 (Discriminant analysis) 判别分析fisher判别等 第1页 Discriminant analysis 判别分析 用于判别样本所属类型统计分析方法 基因识别：依据某一DNA序列核苷酸组分、信号特征等指标，判别是否编码蛋白序列？ 医学诊疗：某一病人肺部存在阴影，判别: 肺结核？良性肿瘤？肺癌？ 人类考古学：依据头盖骨特征，判别：民族、性别、生活年代？ 股票分析预测： 气象分析预测： 自然灾害分析预测： …… 判别分析fisher判别等 第2页 Discriminant analysis 判别分析问题 设有k个m维总体G1, G2, …, Gk， (1). 它们分布特征已知，能够表示为F1(x), F2(x), …, Fk(x) (2). 或者知道来自各个总体样本（训练样本）。 对于给定一个未知样本X（检测样本），判别X属于哪个总体。 多元、复杂、高度综合统计分析问题 判别分析fisher判别等 第3页 Discriminant analysis Fisher判别法 距离判别法 Bayes判别法 逐步判别法 …… 训练样本 训练集 检测样本 检测集 判别准则 判别效率 学习 检测 评价 判别分析fisher判别等 第4页 距离判别法 距离判别基本思想 样本与哪一类总体距离最近，就判别它属于哪一类总体。 Discriminant analysis 判别分析fisher判别等 第5页 马氏（Mahalanobis）距离 定义：Mahalanobis距离 设总体G为n维变量，即含有n个属性指标(x1, x2, …, xn)。已知总体G中 t个样本Xk (xk1, xk2, …, xkn)，k=1, 2, …, t。总体均值可用样本均值预计： 则对于任一点X(x1, x2, …, xn) ，定义它与总体GMahalanobis距离为： Discriminant analysis 判别分析fisher判别等 第6页 其中，矩阵S＝(sij)n×n为： 矩阵S称为协方差矩阵（covariance matrix），反应属性指标中第i个分量与第j个分量相关性。 尤其地，当n=1时， Mahalanobis距离为： Discriminant analysis 判别分析fisher判别等 第7页 x p(x)  x p(x)  |x-| G1:N(,1) G2:N(,2) Discriminant analysis 判别分析fisher判别等 第8页 两类总体距离判别 已知：考虑含有n个属性两类总体G1、G2， 已知G1p个训练样本， G2q个训练样本： 问题：对于未知样本点X(x1, x2, …, xn)，判别其类型？ Discriminant analysis 判别分析fisher判别等 第9页 G1、G2总体均值依据样本均值预计得到： 分别求出总体G1、G2协方差矩阵S(1)、S(2)： Discriminant analysis 判别分析fisher判别等 第10页 对于任一新样本X(x1, x2, …, xn)，分别计算它到总体G1、G2Mahalanobis距离： Discriminant analysis 判别分析fisher判别等 第11页 结构判别函数W(X)： 判别准则为： Discriminant analysis 判别分析fisher判别等 第12页 特例：考虑n=1两类正态总体： G1：N(1, 1) G2：N(2, 2) p(x) x G1:N(1,1) G2:N(2,2) 1 2 Discriminant analysis 判别分析fisher判别等 第13页 不妨设2 1 ， 2 1 ，且检测值满足2 x 1 ，则： 其中 于是，判别准则为： Discriminant analysis 判别分析fisher判别等 第14页 p(x) x G1:N(1,1) G2:N(2,2) 1 2 * Discriminant analysis 判别分析fisher判别等 第15页 已知：考虑含有n个属性m类总体Gl ( l = 1, 2, …, m) ，每类总体已知tl (l=1, 2, …, m)个训练样本： 问题：对于未知样本点X(x1, x2, …, xn)，判别其类型？ 多类总体距离判别 Discriminant analysis 判别分析fisher判别等 第16页 类似地，分别计算点X(x1, x2, …, xn)到每一类G