FCM算法及其推导过程_浙大Ra课件.pptVIP

FCM算法 主要内容 FCM的思想 FCM算法的步骤 FCM应用在邮件分类 下一步计划 1.FCM的思想 FCM（Fuzzy C-means）：模糊C均值算法 模糊聚类的目标函数： （式1） 与C-means算法的区别正在于目标函数： （式2） 式中：U=[uik]为隶属度矩阵,uik是第k个样本对于第i类的隶属度. dik2= ‖xk-vi‖2是样本xk与聚类中心（均值）vi的欧氏距离. FCM算法的约束条件：某一个样本对于各个聚类的隶属度之和为1. (式3) 我们想要得到min{J(U,V)} （式4） 为了求有约束条件下目标函数的极值，我们得利用拉格朗日乘子法构造新的函数 （式5） 其中 称为Lagrange乘子， dik2= ‖xk-vi‖2 对F函数求极值得最优化条件如下： （式6） 由极值条件式6解得必要条件如下： （式7） （式8） 那么我们就可以用式7、式8循环迭代得到满足要求的聚类中心和隶属度矩阵 2.FCM算法的步骤 1.设定聚类数目c和参数m 2.给出初始隶属度矩阵U（0） （U（0）各列元素之和应为1，在实验 程序给U（0）每一列随机赋予c-1个0,1个1） 3.利用式8计算新的聚类中心Vj 4.利用式7计算新的隶属度矩阵 （若分母存在中djk=0,则ujk=1，且 对i ≠j,uik=0） 5.用一个矩阵范数比较两次迭代之间隶属度矩阵，如果 ‖U(k+1)-U(k)‖=e 则停止迭代。 3.FCM应用在邮件分类 …… 浙大Ra 4.下一步计划 FCM算法的缺点： 1.样本集不理想情况下，结果不好。比如：如果某个值（野值）远离各类的聚类中心，本来它属于各类的隶属度都很小但是由于FCM算法的约束条件（式3），将会使它对各类都有较大的隶属度，这种野值的存在会影响迭代的最终结果。（至少可以想象得到，它的存在会影响聚类中心） 2.需要预先设定聚类数目，不利于实际运用 3.计算耗时长 1.针对缺点1，…… 2.针对缺点2，…… 3.缺点3暂时不予考虑 浙大Ra