是否可以使用损失函数的梯度在 keras 中训练模型？

Question

我有一个模型，我知道损失函数的梯度，即 dE/dy，其中 E 是损失函数，y 是输出。但是，它是不可积的，也没有损失函数的封闭形式。在这种情况下，有没有办法在 Keras 中训练模型（也许使用 tensorflow）？

Answer 1

是的。

假设您将 E 的所有变量 x_i 存储在 var_list 列表中。假设您有一个预先计算的每个对应变量的梯度值列表，dE/d(x_i)，存储在processed_grads 中。有了这些假设，您可以使用 ops.apply_gradients 通过以下命令将这些渐变应用于值：

opt.apply_gradients(zip(processed_grads, var_list))

如果您要寻找完整的示例，这是我从 TensorFlow 文档 (https://www.tensorflow.org/api_docs/python/tf/keras/optimizers/Optimizer) 中获取的示例：

# Create an optimizer.
opt = tf.keras.optimizers.SGD(learning_rate=0.1)

# Compute the gradients for a list of variables.
with tf.GradientTape() as tape:
  loss = <call_loss_function>
vars = <list_of_variables>
grads = tape.gradient(loss, vars)

# Process the gradients, for example cap them, etc.
# capped_grads = [MyCapper(g) for g in grads]
processed_grads = [process_gradient(g) for g in grads]

# Ask the optimizer to apply the processed gradients.
opt.apply_gradients(zip(processed_grads, var_list))