天天看點

Variational Bayes

平均場理論(Mean Field Method):舉個簡單的例子就是,平面上有很多的電荷,我們想研究這些電荷對電荷A的影響,我們不必一個一個電荷去研究這些電荷對電荷A的影響,我們可以考慮這些電荷組成的一個整體,而這個整體可以被等效為一個電荷,然後直接研究這個等效電荷對電荷A的影響,這就大大簡化了分析和計算複雜度。

Kullback-Leibler散度:

Variational Bayes
Variational Bayes
Variational Bayes
Variational Bayes
Variational Bayes

指數分布族(exponntial family)

指數分布族的密度函數:

Variational Bayes
Variational Bayes
Variational Bayes
Variational Bayes
Variational Bayes
Variational Bayes
Variational Bayes
Variational Bayes

琴生不等式:

Variational Bayes
Variational Bayes
Variational Bayes
Variational Bayes
Variational Bayes

KL距離公式:

Variational Bayes
Variational Bayes
Variational Bayes
Variational Bayes
Variational Bayes
Variational Bayes