EM算法完整版完整版.pptxVIP

EM算法原理与应用;1. EM算法原理;从最大似然到EM算法;由于每个样本都是独立地从p(x|θ)中抽取的，抽到男生A（的身高）的概率是p(xA|θ)，抽到男生B的概率是p(xB|θ)，那因为他们是独立的，所以很明显，我同时抽到男生A和男生B的概率是p(xA|θ)* p(xB|θ)，同理，我同时抽到这100个男生的概率就是他们各自概率的乘积了。 数学语言：从分布是p(x|θ)的总体样本中抽取到这100个样本的概率，也就是样本集X中各个样本的联合概率，用下式表示： ;【例1】假设我们需要调查我们学校的男生和女生的身高分布。（抽样）假设你在校园里随便地活捉了100个男生和100个女生。他们共200个人（也就是200个身高的样本数据）都在教室里面了。那下一步怎么办啊？你开始喊：“男的左边，女的右边！”。然后你就先统计抽样得到的100个男生的身高。 假设他们的身高是服从高斯分布的。但是这个分布的均值μ和方差σ2我们不知道，这两个参数就是我们要估计的。记作θ=[μ,σ2]T;从最大似然到EM算法; 似然函数：;从最大似然到EM算法;从最大似然到EM算法;从最大似然到EM算法;2、EM算法的应用;在高斯混合模型中的应用;在高斯混合模型中的应用;在高斯混合模型中的应用;结果如下： 混合项系数估计为 [0.08790, 0.18614, 0.25716, 0.46878] 均值估计为{[ 3.7483 34.9302] [ 29.9127 39.8799] [ 19.9754 20.2637] [ 45.2073 15.4781]};在图像分割（无监督聚类）中的应用;在图像分割中的应用;在图像分割中的应用;在图像分割中的应用;EM 算法是求参数极大似然估计的一种方法，它可以从非完整数据集中对参数进行估计，是一种非常简单实用的学习算法。这种方法可以广泛地应用于处理缺损数据、截尾数据以及带有噪声等所谓的不完全数据，可以具体来说，我们可以利用EM算法来填充样本中的缺失数据、发现隐藏变量的值、估计HMM中的参数、估计有限混合分布中的参数以及可以进行无监督聚类等等。;在医学研究中的应用 ;在医学研究中的应用 ;在医学研究中的应用 ;在医学研究中的应用 ; (2)如果用EM算法计算,得到 =[0.7894 1.5158 2.9236 3.6630] 通过计算比较可得: 我们发现通过EM算法计算得到的结果比直接删除得到的??果更接近精确值。 ;对EM算法应用的总结;谢 谢