EM 算法

阳光穿透心脏的1/2处 2021-11-05 02:02 352阅读 0赞

这个暂时还不太明白,先写一点明白的。

EM:最大期望算法,属于基于模型的聚类算法。是对似然函数的进一步应用。

我们知道,当我们想要估计某个分布的未知值,可以使用样本结果来进行似然估计,进而求最大似然估计就可以估计出要求的参数。

但是有时候还会有未知参数,这样就不能使用极大似然估计。当然这个参数与我们要估计的参数是有关联的。

比如说调查 男生 女生身高的问题。身高肯定是服从高斯分布。以往我们可以通过对男生抽样进而求出高斯分布的参数,女生也是,但是如果我们只能知道某个人的高度,却不能知道他是男生或者女生(隐含变量),这时候就无法使用似然函数估计了。这个时候就可以使用EM方法。

分为E和M两步:

在E步的时候首先通过随机赋值一个我们要求的参数,然后求出另外一个隐含参数的后验概。

在M步的时候用求出来的隐含参数的后验概率进行对传统的似然函数估计,对要求参数进行修正。迭代直到前后两次要求的参数一样为止。

转载于:https://www.cnblogs.com/GuoJiaSheng/p/3892467.html

发表评论

表情:
评论列表 (有 0 条评论,352人围观)

还没有评论,来说两句吧...

相关阅读

    相关 EM算法

    一、EM算法介绍         我们经常会从样本观察数据中,找出样本的模型参数。 最常用的方法就是极大化模型分布的对数似然函数。(最大似然估计:利用已知的样本结果,反推

    相关 EM算法

    Maximum Likelihood Estimation Maximum Likelihood Estimation(MLE)是要选择一个最佳参数θ\,使得从训练集中观

    相关 EM算法

    转载为了以后方便复习,防止好的博客突然就error found 转自http://www.cnblogs.com/jerrylead/archive/2011/04/06/2

    相关 EM算法总结

    看了一天EM算法,做了ppt。总结一下。 第一篇[教程][Link 1]很基础,可以看前部分,回忆一下概率论。 第二篇[教程][Link 2]很理论,讲的很清楚,挺好看。

    相关 EM算法推导

    EM算法也称期望最大化(Expectation-Maximum, EM)算法,它是一个基础算法,是很多机器学习领域算法的基础,比如隐式马尔科夫算法(HMM), LDA主题模型的

    相关 EM 算法

    这个暂时还不太明白,先写一点明白的。 EM:最大期望算法,属于基于模型的聚类算法。是对似然函数的进一步应用。 我们知道,当我们想要估计某个分布的未知值,可以使用样本结果来进