从散度(divergence)角度理解GAN

GAN和散度(divergence)的联系

根据之前的定义(可以参考之前的文章：GAN（对抗生成网络）的数学原理及基本算法)，discriminator采用最大似然的方法评估生成和原样本的差异性的本质是衡量两者的JS散度：
$V = -2log2 + 2JSD(P_{data}||P_G)$V=−2log2+2JSD(Pdata​∣∣PG​)但是其实衡量两个分布之间的差异性不仅仅JS散度一种方式。那么有一个问题，即是否可以使用任意散度来作为衡量呢？JS是否是最好的呢？
解决这个问题之前，先定义一个关于散度的函数$D_f(P||Q)$Df​(P∣∣Q)（不知道为什么这样定义的，他说的是定义……），其中$P$P和$Q$Q是两个分布，随机变量$X$X，那么$P(x)$P(x)、$Q(x)$Q(x)是关于随机变量的两个分布上面的采样。$D_f(P||Q)$Df​(P∣∣Q)定义如下：$D_f(P||Q) = \int\limits_x q(x)f(\frac{p(x)}{q(x)})dx$Df​(P∣∣Q)=x∫​q(x)f(q(x)p(x)​)dx其中$f$f函数是任意函数，且满足两个要求：

• $f(1)=0$f(1)=0
• $f$f是一个凸函数

从第一点来看，很显然，若对于所有$x$x都有$p(x)=q(x)$p(x)=q(x)，说明两个分布无差异，那么散度为0。通过第二点，可知$D_f(P||Q) \geqslant0$Df​(P∣∣Q)⩾0。根据凸函数性质，有
$D_f(P||Q) \geqslant f(\int\limits_x q(x)\frac{p(x)}{q(x)}dx) = f(1)=0$Df​(P∣∣Q)⩾f(x∫​q(x)q(x)p(x)​dx)=f(1)=0所以可见，当两个分布重叠的时候，散度的函数为0，其余情况都大于0。具体来看，当$f(x) = xlogx$f(x)=xlogx，散度函数$D_f$Df​为KL散度；当$f(x) = -logx$f(x)=−logx，散度函数$D_f$Df​为反KL散度(reverse KL divergence)；当$f(x) = (x-1)^2$f(x)=(x−1)2，散度函数$D_f$Df​为Chi Square。
定义好散度函数之后，根据凸函数性质，每个凸函数都有一个共轭函数$f^*$f∗(conjugate function)，其定义如下：
$f^*(t) = \max\limits_{x\in domain(f)} \{xt - f(x)\}$f∗(t)=x∈domain(f)max​{xt−f(x)}举例介绍共轭函数：
$f(t_1) = \max \{x_1t_1-f(x_1), x_2t_2-f(x_2) \dots x_nt_n-f(x_n)\}$f(t1​)=max{x1​t1​−f(x1​),x2​t2​−f(x2​)…xn​tn​−f(xn​)}则$f(t_1)$f(t1​)是其中最大的一个，$f^*(t)$f∗(t)的图像可以从下图的红色线直观的看出：
反过来，共轭性有：
$f(x) = \max\limits_{t\in domain(f^*)} \{xt - f^*(t)\}$f(x)=t∈domain(f∗)max​{xt−f∗(t)}根据这个性质可以对$D_f$Df​进行改写：$D_f(P||Q) = \int\limits_x q(x)(\max\limits_{t\in domain(f^*)} \{\frac{p(x)}{q(x)}t - f^*(t)\})dx$Df​(P∣∣Q)=x∫​q(x)(t∈domain(f∗)max​{q(x)p(x)​t−f∗(t)})dx这里如果带入$D(x)$D(x)，那么有：$\begin{aligned} D_f(P||Q) &\geqslant \int\limits_x q(x)( \{\frac{p(x)}{q(x)}D(x) - f^*(D(x))\})dx\\ &=\int\limits_x p(x)D(x)dx - \int\limits_xq(x)f^*(D(x))dx\\ &=E_{x\thicksim P}[D(x)] - E_{x\thicksim Q}[f^*(D(x))] \end{aligned}$Df​(P∣∣Q)​⩾x∫​q(x)({q(x)p(x)​D(x)−f∗(D(x))})dx=x∫​p(x)D(x)dx−x∫​q(x)f∗(D(x))dx=Ex∼P​[D(x)]−Ex∼Q​[f∗(D(x))]​根据上面的公式，可以将$P$P视作$P_{data}$Pdata​，$Q$Q视作$P_G$PG​，那么上式就很好解释了。discriminator的任务就是将上式最大化——辨别数据集采样样本和生成样本，衡量的具体方式根据$f^*$f∗而定，用什么散度，$f^*$f∗就是对应共轭；generator的任务就是寻找分布$P_G$PG​。
之前最大似然对应的JS散度存在两个问题：mode collapse和mode dropping。Mode collapse即，实际数据分布较为分散，但是生成数据相对集中，这样的结果是同一张图片的近似将会反复出现：
Mode dropping即实际数据分布分成多个簇，但生成只占据其中一个，这样的结果是生成，例如图像，将会缺少某一种特性，比如没有黑色头发之类的：

所以从这个角度，选择不同的散度，衡量标准不同，最终优化的结果不同——一定程度改善上述两个问题。解决的一个方法是ensemble。
参考资料：
李宏毅老师GAN讲解视频