02.25 《GANs生成式對抗網絡綜述:算法、理論與應用》最新論文

對話框回覆“paper53”獲取本篇論文

生成式對抗網絡(Generative Adversarial Networks,GANs)作為近年來的研究熱點之一,受到了廣泛關注,每年在機器學習、計算機視覺、自然語言處理、語音識別等上大量相關論文發表。密歇根大學Jie Gui博士等人近期發佈了《A Review on Generative Adversarial Networks: Algorithms, Theory, and Applications》,包括28頁pdf,這篇綜述論文對460餘篇論文進行了嘗試從算法,理論和應用的角度對各種GANs方法進行敘述

《GANs生成式對抗網絡綜述:算法、理論與應用》最新論文

題目:A Review on Generative Adversarial Networks: Algorithms, Theory, and Applications

作者:Jie Gui, Zhenan Sun, Yonggang Wen, Dacheng Tao, Jieping Ye

《GANs生成式對抗網絡綜述:算法、理論與應用》最新論文

摘要:生成對抗網絡(GANs)是最近的熱門研究主題。自2014年以來,人們對GAN進行了廣泛的研究,並且提出了許多算法。但是,很少有全面的研究來解釋不同GANs變體之間的聯繫以及它們是如何演變的。在本文中,我們嘗試從算法,理論和應用的角度對各種GANs方法進行敘述。首先,詳細介紹了大多數GANs算法的動機,數學表示形式和結構。此外,GANs已與其他機器學習算法結合用於特定應用,例如半監督學習,遷移學習和強化學習。本文比較了這些GANs方法的共性和差異。其次,研究了與GANs相關的理論問題。第三,說明了GANs在圖像處理和計算機視覺,自然語言處理,音樂,語音和音頻,醫學領域以及數據科學中的典型應用。最後,指出了GANs未來的開放性研究問題。

論文地址:

https://arxiv.org/abs/2001.06937


一、概述

對抗生成網絡已經成為了一個研究熱點。深度學習領域的傳奇人物Yann LeCun 在Quora上發帖稱:“GANs是過去10年機器學習領域最有趣的想法。”從谷歌學術上可以發現,有大量和GANs相關的論文。例如,2018年大約有11800篇關於GANs的論文。也就是說,2018年,每天大約有32篇論文,每小時有超過一篇論文與GANs有關。GANs有兩部分組成:生成器和判別器。這兩個模型都由神經網絡實現,該系統可以將數據從一個空間映射到另一個空間。生成器嘗試捕獲真實數據的分佈,以生成新的數據。鑑別器通常是一個二進制分類器,要求儘可能準確地從真實的例子中鑑別出生成的例子。GANs的優化是一個最大最小優化問題。優化終止於一個鞍點,該鞍點相對於生成器是最小值,相對於鑑別器是最大值。也就是說,當優化達到Nash equilibrium的目標時,這時可以認為生成器捕獲了真實數據的真實分佈。本文和先前的關於GANS的綜述之間的區別主要有以下幾點:

1)GANs的具體應用:將GANs用於諸如圖像合成和編輯,音頻增強和合成等具體領域。

2)關於GANs的綜合評述:最早關於GANs的相關綜述是Wang et al.整理的,該論文主要介紹了2017年以前GANs 的發展進程。Z.Wang所作的“Generative adversarial networks: A survey and taxonomy”主要介紹了GANs在計算機視覺領域中的各種變體以及變體的損失函數。

到目前為止,本文是第一個從算法,理論和應用的角度為GANs提供一個全面的綜述,並且介紹了GANs的最新的進展。再者,我們不僅關注GANs在圖像處理和計算機視覺上的應用,而且關注了GANs在諸如自然語言處理和其他如醫療領域等相關領域中的序列數據上的應用。


二、章節內容

  • 章節1:論文摘要和介紹
  • 章節2:介紹相關工作
  • 章節3-5:分別從算法,理論和應用的角度介紹GCNs
  • 章節6:對開放性問題進行探討
  • 章節7:總結


三、各種相關的GANs算法

在章節3中,我們首先介紹原始的GANs。然後介紹各種具有代表性的變體和GANs的訓練,評估方式以及任務驅動的GANs(如下圖所示)。

《GANs生成式對抗網絡綜述:算法、理論與應用》最新論文

GAN代表性算法

《GANs生成式對抗網絡綜述:算法、理論與應用》最新論文


四、GANs的具體應用

GANs是一個強有力的生成式模型,該模型可以用一個隨機向量生成看起來完全和真實樣例一樣的數據。訓練過程中我們既不需要明確的知道真實數據的分佈也不需要任何數學假設。基於GANs的顯著優勢,GANs被廣泛應用於圖像處理,計算機視覺和序列數據上(具體見下表)。

《GANs生成式對抗網絡綜述:算法、理論與應用》最新論文


五、GANs的開放研究問題

  • 離散數據GAN GANs for discrete data
  • New Divergences
  • 不確定性估計 Estimation uncertainty
  • 理論 Theory
  • 其他

部分論文展示:

《GANs生成式對抗網絡綜述:算法、理論與應用》最新論文

《GANs生成式對抗網絡綜述:算法、理論與應用》最新論文

《GANs生成式對抗網絡綜述:算法、理論與應用》最新論文


分享到:


相關文章: