天天看點

VAE的三種不同推導方法1. 總則2. 從資料分布出現機率最大出發進行推導3. 從聯合機率密度出發進行推導4. 從encoder角度進行推導

本文從三種不同的角度分析一下VAE的推導。

1. 總則

我們将VAE與GAN都可以放到分布拟合的架構下考慮,簡單說,就是有一個未知的真實資料分布,我們想要表示該分布。而VAE最精髓的步驟之一,就是使用隐變量,将資料分布的表征分為兩步。

VAE的三種不同推導方法1. 總則2. 從資料分布出現機率最大出發進行推導3. 從聯合機率密度出發進行推導4. 從encoder角度進行推導

下面的兩張PPT很好的總結了各種不同的生成模型間的聯系與差異,可以作為參考

VAE的三種不同推導方法1. 總則2. 從資料分布出現機率最大出發進行推導3. 從聯合機率密度出發進行推導4. 從encoder角度進行推導
VAE的三種不同推導方法1. 總則2. 從資料分布出現機率最大出發進行推導3. 從聯合機率密度出發進行推導4. 從encoder角度進行推導

2. 從資料分布出現機率最大出發進行推導

既然我們想要真實的資料分布,那就直接來好了,這也是最容易想到的方式

VAE的三種不同推導方法1. 總則2. 從資料分布出現機率最大出發進行推導3. 從聯合機率密度出發進行推導4. 從encoder角度進行推導

3. 從聯合機率密度出發進行推導

根據1中對VAE的概述,我們知道,VAE本質上是利用隐變量對資料分布進行了抽象,那麼我們就希望隐變量與原始資料分布距離我們的學到的盡量靠近

VAE的三種不同推導方法1. 總則2. 從資料分布出現機率最大出發進行推導3. 從聯合機率密度出發進行推導4. 從encoder角度進行推導

4. 從encoder角度進行推導

很多時候,VAE是為下遊任務做資料預處理和特征提取的,那麼就需要有一個良好的encoder,從這個角度出發,也可以得出相同的結論

VAE的三種不同推導方法1. 總則2. 從資料分布出現機率最大出發進行推導3. 從聯合機率密度出發進行推導4. 從encoder角度進行推導