LDA中的variational EM 跟EM

variational EM:

http://net.pku.edu.cn/~zhaoxin/vEMLDA.pdf

EM:

http://www.cnblogs.com/biyeymyhjob/archive/2012/07/21/2603020.html

估計方法都是用的MLE, variational EM 估計 α 和 β (對應EM中的 z )，而實際上也要求的是θ和 z 隐變量(對應EM中的z)。

目标都是最大化似然函數。

EM既可以求參數也可以求隐變量

注意：

- variational EM 不是用的MAP 和 Bayesian Inference，而是用的MLE

- Bayesian Inference 是gibbs sampling用的

- MAP 是Sparse topic coding用的