聚类分析 吕江平.pptVIP

层次的方法缺陷： 一旦一个步骤（合并或分裂）完成，就不能被撤销或修正，因此产生了改进的层次聚类方法，如BRICH,BURE,ROCK,Chameleon。详见参考书 划分方法（Partitioning method） 较流行的方法有: 动态聚类法（也称逐步聚类法），如k－均值算法、k－中心点算法 思想： 随机选择k个对象，每个对象初始地代表一个类的平均值或中心，对剩余每个对象，根据其到类中心的距离，被划分到最近的类；然后重新计算每个类的平均值。不断重复这个过程，直到所有的样本都不能再分配为止。（图解） 划分方法（Partitioning method） 特点： k事先定好 创建一个初始划分，再采用迭代的重定位技术 不必确定距离矩阵 比系统聚类法运算量要小，适用于处理庞大的样本数据 适用于发现球状类 划分方法（Partitioning method） 缺陷： 不同的初始值，结果可能不同 有些k均值算法的结果与数据输入顺序有关，如在线k均值算法 用爬山式技术（hill-climbing）来寻找最优解，容易陷入局部极小值 基于距离的方法进行聚类只能发现球状类，当类的形状是任意的时候怎么识别？（黑板图示） 下面介绍其中一种常用的算法： 基于密度的方法（density-based method） 主要有DBSCAN，OPTICS法 思想： 只要临近区域的密度超过一定的阀值，就继续聚类 特点： 可以过滤噪声和孤立点outlier，发现任意形状的类 基于网格的方法（grid-based method） 把样本空间量化为有限数目的单元，形成一个网络结构，聚类操作都在这个网格结构（即量化空间）上进行 基于模型的方法（model-based method） 为每个类假定一个模型，寻找数据对给定模型的最佳拟合。 此不详述，有兴趣可以参考《DataMing Concepts and Techniques》即《数据挖掘概念于技术》Jiawei Han Micheline Kamber机械工业出版社 不稳定的聚类方法 受所选择变量的影响 如果去掉或者增加一些变量,结果会很不同.因此，聚类之前一定要明确目标，选择有意义的变量。 变量之间的相关性也会影响聚类结果，因此可以先用主成分或因子分析法把众多变量压缩为若干个相互独立的并包含大部分信息的指标，然后再进行聚类。 不稳定的聚类方法 输入参数凭主观导致难以控制聚类的质量 很多聚类算法要求输入一定的参数，如希望产生的类的数目，使得聚类的质量难以控制，尤其是对于高维的，没有先验信息的庞大数据。 首先要明确聚类的目的，就是要使各个类之间的距离尽可能远，类中的距离尽可能近，聚类算法可以根据研究目的确定类的数目，但分类的结果要有令人信服的解释。 在实际操作中，更多的是凭经验来确定类的数目，测试不同类数的聚类效果，直到选择较理想的分类。 不稳定的聚类方法 算法的选择没有绝对 当聚类结果被用作描述或探查工具时，可以对同样的数据尝试多种算法，以发现数据可能揭示的结果。 不稳定的聚类方法 聚类分析中权重的确定 当各指标重要性不同的时候，需要根据需要调整权重。如加权欧式距离，权重可以用专家法确定。 案例演示 有一个电信公司的数据，变量为： ID：用户电话号码 Mobile：移动电话通话时间 Fixed：固定电话通话时间 DDD: 长途直拨通话时间 IP: IP电话通话时间 研究目的：挖掘不同人群拨打电话的特征 下面用SAS/Enterprise Miner演示 Q A 推荐参考书目 《应用多元分析》（第二版）王学民 上海财经大学出版社 《应用多元统计分析》即《Appied Multivariate Satistics》5th EdRichard A. Johnson, Dean W. Wichern中国统计出版社 《数据仓库》即《Building the Data Warehouse》3th Ed，W.H.Inman机械工业出版社 《数据挖掘原理》《Principles of Data Mining》David Hand Heikki Mannila Padhraic Smgth机械工业出版社 《Data Mining Introduction and Advanced Topics》Margaret H.Dunham 《数据挖掘概念于技术》即《DataMing Concepts and Techniques》Jiawei Han Micheline Kamber机械工业出版社 《数据挖掘——客户关系管理的科学与艺术》即《Mastering Data Mining The Art and Science of Custermer Relationship Management》Michael J.A.Ber