歡迎點選上方藍字，關注啦~
相關閱讀：
GAN整整6年了！是時候要來捋捋了！
天降斯雨，于我卻無！GAN用于去雨如何？
容顔漸失！GAN來預測？
異常檢測，GAN如何gan ?
虛拟換衣！速覽這幾篇最新論文咋做的！
臉部妝容遷移！速覽幾篇用GAN來做的論文
【1】GAN在醫學圖像上的生成，今如何？
01-GAN公式簡明原理之鐵甲小寶篇
前幾天，一位小夥伴給我推薦了一篇最新的GAN論文綜述：
哈哈，其實這個綜述，之前大概在arxiv上似乎瞄到過一下，想着有時間再下載下傳看看，後面就忘了，2333。今天也做個非常簡單的記錄，并安利給有興趣的你。
注：其實去年年底，我在知乎的一個問題“ 2019年，計算機視覺領域，你推薦哪些綜述性的文章？”下的一個回答裡，推薦了一個GAN的綜述小論文，并做了簡單的總結。這個回答也成為了我這個知乎小透明收獲贊數最多的回答。
那篇綜述論文是2019年年底在arxiv上看到的，主要從 網絡結構、條件資訊、歸一化和限制、損失函數、圖像轉換、評估準則 六個方面做了簡潔的梳理和回顧。後面也整理成文，取了一個很中二的名字：GAN整整6年了！是時候要來捋捋了！
首先來看看文章開頭提到的這個綜述的目錄，掐頭去尾，正如題目所提到，主要是從三個方面展開：
算法，理論，應用。
三大部分下，又設定了多個小目錄，如下圖所示：
看目錄可知，作者試圖、盡可能全方位覆寫GAN的各個部分。但是，實際上論文僅僅有28頁，而除去8頁引用裡400篇論文所占的位置，正文内容大概隻有17頁左右。想通過17頁去論述詳細這麼多方面的内容是不可能的，能做到“雨露均沾”、點到為止已實屬不易，實際大部分都是一帶而過。
但是寫的簡潔，好處也是顯然的：對于讀者學習GAN，既提供了局部的方向，又給出了整體的把握。
目錄上看：
1. 首先，大緻介紹了一下生成模型算法、GAN的對抗思路；
2. 接着，算法部分：
（1） 推導了原始GAN的公式、分析其問題；
（2） 提到了幾個代表性的GAN變體；
（3） 提到了GAN的訓練方法；
（4） 提到了GAN的評估準則；
（5） 提到了GAN和其他學習任務的聯系，如遷移學習等。
3. 緊随，理論部分：
（1） 介紹最大似然估計；
（2） 模式坍塌的大概分析；
（3） 提到其他一些理論争議、焦點，比如GAN是不是真正地學習到資料分布？
4. 再者，應用部分：
（1） 圖像處理：主要提到了超分辨率、圖像合成與編輯、紋理合成、目标檢測、視訊領域等方面的應用；
（2） 序列資料：NLP和語音等。
（3） 醫學領域。（實際上，醫學領域的應用，個人感覺已經涵蓋在上面圖像、序列離散的分類裡了，不知道作者單獨這麼一列并排，在邏輯上顯得有點奇怪？如果按照應用專業領域分的話，其實可以分為比如遙感領域、自動駕駛、藝術娛樂等等）
5. 下來，作者總結了關于GAN的幾個開放性、待解決、仍值得進一步研究的問題：
（1） GAN用于離散資料（discrete data）？
GAN依賴于對于生成樣本的參數而言是可微的，GAN無法直接産生離散資料。解決此問題非常重要，因為它可以釋放GAN用于NLP等領域的潛力。Goodfellow [103]提出了三種解決這個問題的方法：使用Gumbel-softmax [448]，[449]或concrete distribution [450]；利用REINFORCE算法[451]；訓練生成器以采樣可轉換為離散值的連續值（例如，直接對詞嵌入進行采樣）。還有其他方法可以朝這個研究方向發展。
（2） 新的訓練衡量散度（New Divergences）：
我們知道，原始GAN本質上采用的是JS或者KL散度來作為分布衡量的手段。而新的類似如：用于訓練GAN的新的Integral Probability Metrics（IPM）系列，例如Fisher GAN [455]，[456]，均值和協方差特征比對mean and covariance feature matching GAN（McGan）[457]和Sobolev GAN [458]。還有其他有趣的手段嗎？這值得進一步研究。
（3） 估計不确定性（Estimation uncertainty）：
一般而言，随着我們擁有更多資料，不确定性估計會減少。GAN不會提供生成訓練資料的分布，而隻能生成來自與訓練資料相同分布的樣本。盡管可以使用GAN生成資料，但如何衡量生成器的不确定性呢？這是另一個有趣的問題。
（4） 理論：
GAN理論根基過于薄弱。有用的理論能夠必将促進模型的類别選擇、容量和架構等。
（5） 其他：
GAN還存在其他重要的研究問題，例如評估準則和模式崩潰。
關于完善GAN的理論根基，相信是較難啃的。也許大多數人對GAN的應用更感興趣些。但訓練GAN的過程是較為尴尬的：目前，很多時候都是經驗主導，以調為主，不得不戲谑：煉丹之說，實至名歸。
本文所提到的GAN最新綜述，包含了460篇相關論文。最後，發送一波懶人福利：通過在arxiv網站的爬取，已經自動下載下傳打包好其中350+篇，可通過掃碼關注公衆号“學點詩歌和AI知識”，背景回複“ GAN起來 ”擷取！！！
如下所示，還在猶豫什麼，趕緊去對照着綜述論文學習起來~~~
（咦？不是460多篇嗎？？emmmm，漏的一百多篇嘛，arxiv上沒提供，我也懶得搞了。哈哈，這350多篇也夠的看了！想看沒有的，可自行下載下傳！）
最近，也在抽空整理一些GAN的應用方向論文，形成各個方向的小綜述，比如異常檢測、虛拟換衣、妝容遷移、人臉轉正、人臉老化、人臉誇張動漫話、去雨、與主動學習的結合、在醫學圖像上的生成等等。後續将會不定期更新，歡迎找我讨論交流，也歡迎持續關注公衆号：