聚类与判别分析幻灯片.ppt

第8讲　聚类与判别分析 主要内容 距离和相似系数 系统聚类(Hierarchical clustering) 最短距离法 最长距离法 中间距离法 可变距离法 重心法 类平均法 可变类平均法 Ward最小方差法 聚类分析的正确应用 距离判别 Fisher判别 逐步判别 判别分析的正确应用 系统聚类的基本思想 相近的聚为一类(以距离表示，样品聚类) 相似的聚为一类(以相似系数表示，变量聚类) 6个不同民族的标化死亡率与出生时的期望寿命 距离 绝对值距离 欧氏(Euclidean)距离 切比雪夫(Chebychev)距离 明氏(Minkowski)距离 缺点 没有考虑不同指标(变量)之间的单位和变异 兰氏(Lanberra)距离 没有考虑变量间的相关 马氏(Mahalanobis)距离 多元T检验统计量 配合距离 分类变量 设有两个样品，5个指标的取值分别为： S1=(V,Q,S,T,K) S2=(V,M,S,F,K) 相同称为配合的 不相同称为不配合的。 设两样品共有p个指标，其中配合者有m个，则两样品间的距离可定义为： 相似系数 夹角余弦 Pearson相关系数 指数相似系数 列联系数 点相关系数 四分相关系数 夹角余弦 Pearson列联系数 Cramer关联系数及修正关联系数 系统聚类(Hierarchical clustering) 最短距离法(single linkage) 最长距离法(complete linkage) 中间距离法(median method) 可变距离法(flexible median) 重心法(centroid) 类平均法(average) 可变类平均法(flexible average) Ward最小方差法(Ward’s minimum variance) 系统聚类的基本思想 物以类聚。 相近的聚为一类(以距离表示，样品聚类) 相似的聚为一类(以相似系数表示，变量聚类) 系统聚类的基本步骤 构造n个类，每个类包含且只包含一个样品。 计算n个样品两两间的距离，构成距离矩阵，记作D0。 合并距离最近的两类为一新类。 计算新类与当前各类的距离。若类的个数等于1，转到步骤(5)，否则回到步骤(3)。 画聚类图。 决定类的个数，及各类包含的样品数，并对类作出解释。 类间距离 类间距离 类间距离 类间距离 类间距离 例9.1 6个不同民族的标化死亡率与出生时的期望寿命 各民族之间的欧氏距离(标准化资料)D0 D1 D2 D3 D4 例9.1资料的谱系聚类图(最短距离法) 藏族 哈萨克族 维吾尔族 朝鲜族 蒙古族 满族 各民族之间的欧氏距离(标准化资料)D0 D1 D2 D3 D4 例9.1资料的谱系聚类图(最长距离法) 藏族 哈萨克族 维吾尔族 朝鲜族 蒙古族 满族 8种系统聚类法所得聚类图 指标的聚类 Cluster tree Average Linkage Cluster Analysis Name of Observation or Cluster O O O O O O O B B B O O O B B O O O O B B 1 1 1 B B B 1 1 B B B B 1 2 0 1 2 8 9 3 3 4 4 5 6 7 1.2 + |XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX |XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX |XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX |XXXXXXXXXXXXXXXXXX