张量流是否通过pdf传播梯度

Question

可以说，分布函数定义如下：

dist = tf.contrib.distributions.Normal(mu, sigma)

从分布中抽取样本

val = dist.pdf(x)

这个值在模型中用于预测变量

X_hat = f(val)
loss = tf.norm(X_pred-X_hat, ord=2)

如果我想优化变量 mu 和 sigma 以减少我的预测误差，我可以执行以下操作吗？

train = tf.train.AdamOptimizer(1e-03).minimize(loss, var_list=[mu, sigma])

我很想知道梯度例程是否通过正态分布传播，或者我是否应该预料到一些问题，因为我在定义分布的参数上采用梯度

Answer 1

tl;dr: 是的，梯度反向传播将与tf.distributions.Normal 一起正常工作。

dist.pdf(x) 不会从分布中抽取样本，而是返回x 处的概率密度函数。这可能不是您想要的。

要获得随机样本，您真正想要的是调用dist.sample()。对于许多随机分布，随机样本对参数的依赖性是不平凡的，不一定是可反向传播的。

然而，正如@Richard_wth 所指出的，特别是对于正态分布，可以通过重新参数化来获得对位置和尺度参数（mu 和sigma）的简单依赖。

其实在tf.contrib.distributions.Normal的the implementation（最近迁移到tf.distributions.Normal）中，sample就是这样实现的：

def _sample_n(self, n, seed=None):
  ...
  sampled = random_ops.random_normal(shape=shape, mean=0., stddev=1., ...)
  return sampled * self.scale + self.loc

因此，如果您将尺度和位置参数作为张量提供，那么反向传播将在这些张量上正常工作。

请注意，这种反向传播本质上是随机的：它会根据正常高斯变量的随机抽取而变化。但是，从长远来看（在许多训练示例中），这可能会如您所愿。