为什么 GAN（生成对抗网络）被称为“隐式”生成网络？ [关闭]答案

【问题标题】：Why GAN's (Generative Adverserial networks) are called "implicit" generative networks? [closed]为什么 GAN（生成对抗网络）被称为“隐式”生成网络？ [关闭]
【发布时间】：2020-10-26 13:55:10
【问题描述】：

对抗网络，例如 GAN，被称为 “隐式” 网络。这是什么意思？而且，它们与“显式”生成网络有何不同？什么是“显式”生成网络？

【问题讨论】：

标签： deep-learning computer-vision computer-science generative-adversarial-network

【解决方案1】：

让我通过开始人类和计算机算法之间的对话来为您提供一个简单的答案：

人类说：我有一些数据，我希望能够生成更多类似这些的数据。准确地说，我需要能够从我的训练数据所来自的主分布中生成更多数据。

生成模型说：给我你的数据，我会想办法帮助你。第八，我给你数据的分布，或者我会提供另一种聪明的方法，这样你就可以生成更多与原始数据相似的样本，而不用担心分布。

显式模型就像：给我们训练数据，我们给你数据的分布，所以你可以用它做任何你想做的事情。
- 如果你至少知道分布的类型，那将是一个巨大的帮助，我的工作更容易，我只需要找到分布的参数（例如，如果你告诉我分布是高斯的，所以我的“学习过程”是为你估计均值和方差。它不需要是高斯分布，我也可以处理更复杂和高维的分布）
- 如果您不知道分布的类型，但仍希望我给您一个明确的分布，我可以使用非参数模型，例如 核密度估计。李>
隐式方法说：我们让您能够以疯狂的方式生成类似于您的训练数据的新样本！例如，看看 GAN，通过在你的数据上玩游戏，最后我们给你一个东西，一个黑盒子，我们称之为生成器，你可以给它传递一个随机数，它会神奇地给你一个新样品。在训练这个黑匣子时，我们不会直接处理任何分发的东西。

【讨论】：

喜欢你的解释：简单而清晰。
我有一些问题 1. 对于显式生成模型，我们已经知道分布的实例是什么？这对我来说似乎有点奇怪。而且，文献中使用了哪些类型的模型？ 2. 对于隐式生成模型，即 GAN，您的意思是我们无法对分布进行建模？ 3. VAE 是隐式的还是显式的？提前谢谢你！
其实现实世界中很多数据都遵循著名的高斯分布（单变量或多变量）比如某个国家的人的身高等很多自然数据！泊松和二项式也出现在许多现实世界的问题中。但！图像和声音等数据是非常高维的，可能不遵循任何已知分布，因此使用它们有点棘手。据我记得，VAE 是明确的，因为在算法的设计中，他们试图借助具有高斯先验的潜在变量来学习分布。
这篇文章似乎很有用：medium.com/@prakashpandey9/deep-generative-models-e0f149995b7c

【解决方案2】：

好的，在this paper 中，它说：

“规定的概率模型是那些为观察到的随机变量 x [...] 的分布提供显式参数规范的模型。机器学习和统计中的大多数模型都是这种形式，无论是它们是用于对象识别的最先进的分类器、用于机器翻译的复杂序列模型或跟踪疾病传播的细粒度时空模型。或者，我们可以指定隐式概率模型来定义一个随机过程，该过程直接生成数据。”

也许总结一下：一个规定的概率模型想要学习一组适合手头任务和数据的参数，例如对象分类。另一方面，隐式概率模型生成数据，但公平地说，GAN 也提供数据，例如MNIST 样本，如果调整得当，它们会自己生成 MNIST 数字。

希望能有所帮助！

PS：我不确定 explicit 生成网络是否存在。你确定，也许你可以发送参考？毕竟，人们总是想用 GAN 生成数据......

【讨论】：