[理学]第三章 聚类分析.pptVIP

第七章 聚类分析; 聚类分析（cluster analysis)是数理统计中用于研究分类的一种方法。它依据物以类聚的原则，引用分类学与多元统计分析的技术，对纷乱繁杂的事物进行分类，将具有类似属性的事物聚为一类，使同一类事物具有高度的相似性。聚类根据实际的需要，有两个方向：一是对样本进行聚类，一是对变量进行聚类。; 聚类分析为人们提供了丰富多彩的方法进行分类，这些方法大致可归纳为： （1）系统聚类法 首先将n个样本看成n类（一类包括一个样本），然后将性质最接近的两类合并为一类，这样就得到n-1类，再从中找出最接近的两类加以合并变成n-2类，如此下去，最后所有样品全在一类。将上述并类过程画成一张图（称为聚类图或谱系图），以便决定分多少类？每类各有多少样本？ （2）分解法 它的程序正好和系统聚类相反，首先所有的样品均在一类，然后用某种最优准则将它分成两类。再用同样准则将这两类各自试图分裂为两类，从中选一个使目标函数较好者，这样由两类变成三类。如此下去，一直分裂到每类只有一个样本为止（或用其他停止规则），将上述分裂过程画成图，由图便可求得多个类。 ; （3）加入法 将样本依次输入，每次输入后将它放到当前聚类图的应有位置上，全部输入后，即得到聚类图。 （4）动态聚类法 开始将n个样本粗糙地分成若干类，然后用某种最优准则进行调整，一次又一次地调整，直到不到调整了为止。此法非常类似于计算方法中的迭代法。 （5）有序样本的聚类 n个样本按某种原因（时间，地层深度等）排成次序，聚成的类要求必须是次序相邻的样品才能在一类。 此外，如果允许所获得的类有重叠，所用的方法称为有重叠的类。如果将聚类时方法用于预报，它可弥补回归或判别在某些方面的不足。如果将模糊数学用到聚类分析中所产生的方法，又称模糊聚类法。如果设法将聚类问题化成线性规划、动态规划、整数规划等模型，然后用运筹中现成的软件去计算，称为运筹方法。鉴于本书的性质，我们不能将这些方法一一加以讨论，只重点讨论前面五种方法。 ;§7.2 系统聚类法; 现在，我们通过一个简单的数值例子，来说明各种系统聚类方法。 例7.1 设有五个样本，每个只有一个变量，分别是1，2，3.5，6，8，试将其分类。 我们首先计算五个样本之间的距离（用绝对值距离或欧氏距离，这时两者等价），用D表示相应的矩阵（由于矩阵对称，所以只写出上三角部分）： ;一、最短距离法与距离法 1. 最短距离法（nearest neighbor或single linagc method） 最短距离法是类与类之间距离采用公式 它等于Gp和Gq中靠近的两个样品距离。 开始例中有五类： 。由上面公式 即这五类之间的距离等于五个样品之间的距离。我们发现D中最小的元素是D（1，2）=1，故将G1和G2并成一新类 ，然后计算G6与G3，G4，G5的距离。利用 ，I＝3,4,5，立即得到 ;? ; 用类似的方法，将G7与G5合并为G8，计算得 ，最后，将G6与G8合并为G9。 将上述并类过程画成图7.1，类G1和G2=1时合并，在图中则表示它们当距离等于1时并在一起，其余画法类似 最后决定类的个数与类。若用类的定义用绝对值距离（这里，与欧氏距离等价），从图上看，分两类较为合适，这等价于在图7.1上，距离在2.2处切一刀，得到两类为 与 ，或用样本来表示这两类是 与 ;2. 最长距离法 所谓最长距离法是类与类之间的距离采用公式 它等于Gp和Gq中最远的两个样之间的距离。 将它用到上例中，前面的步骤都相同，当G1与G2合并成G6后，计算D(6,I)(i=3,4,5)的公式成为 它的计算结果和聚类图皆与前面相似，只是并时的距离要大一些，仍分成两类为宜。 在上述两种方法中，主要的不同是计算新类与其他类原距离的递推公式不同，设某步将类Gp与Gq合并为Gr，则Gr与GK的距离为 （7.2.3）