Tensorflow 如何支持使用带有自定义操作的优化器？

Question

我创建了一个新操作，我想将它与 AdamOptimizer 一起使用。我按照here 的说明为它创建了一个渐变，并将其添加到我的优化器的 var_list 中，但 Tensorflow 说我的变量没有处理器。

优化器中是否支持 Tensorflow 自定义操作？ 优化器类是让我创建一个新的处理器还是我必须重写部分 compute_gradients？

此外，如 TF 文档所述，自动微分是什么意思：

要使新操作的自动微分工作，您必须注册一个梯度函数，该函数计算相对于操作输入的梯度，给定相对于操作输出的梯度。

谢谢！

Answer 1

所以我发现 Tensorflow 优化器不支持我正在做的事情。

我试图创建一个类似于 Tensorflow 变量的操作（即通过 Optimizer::minimize() 中的函数进行更新），但是，我相信 TF 对处理器和 Eigen::Tensors 做了一些我不知道的事情完全理解为了用minimize()更新梯度，自然这不适用于Op类。