tensorflow中的自动微分支持哪些操作

Question

我对 tf. 中的自动微分支持哪些类型的操作感到困惑。具体来说，是否支持如下张量索引操作？

...
# feat is output from some conv layer and the shape is B*H*W*C

# case one
loss = feat[:,1:,1:,:] - feat[:,:-1,:-1,:]

# case two
feat[:,1:,1:,:] = feat[:,1:,1:,:]/2. # assign and replace part original value
loss = tf.reduce_sum(feat)

Answer 1

这不是直接的答案，但作为一个线索，这个自动微分库autograd 列出了不受支持的操作，请参阅Non-differentiable functions，例如floor()、round() 不是自动微分的。

也可以定义自己的操作，前提是你可以自己编码渐变，见extend-autograd-by-defining-your-own

我猜 tf 与此非常相似。