MCMC中的Metropolis–Hastings算法與吉布斯采樣

Metropolis–Hastings算法是一種具體的MCMC方法，而吉布斯采樣（Gibbs Sampling）是Metropolis–Hastings算法的一種特殊形式。二者在機器學習中具有重要作用，Bishop在他的機器學習經典之作PRML中也專門用了一章的篇幅來介紹随機采樣方法。本文将結合R語言執行個體來探讨這兩種算法的相關話題。本文是這個系列文章的最後一篇，主要介紹MCMC中的Metropolis–Hastings算法和吉布斯采樣（Gibbs Sampling）方面的内容。

作為本系列文章的組成部分，也作為你閱讀本文所必須的預備知識，希望各位讀者确認已經對如下文章所談之話題了然于心：

• 蒙特卡洛（Monte Carlo）法求定積分
• 蒙特卡洛采樣之拒絕采樣（Reject Sampling）
• 矩陣的極限與馬爾科夫鍊（上）
• 矩陣的極限與馬爾科夫鍊（下&