【问题标题】:Gradient of LSTM one to many model output w.r.t inputLSTM 一对多模型输出 w.r.t 输入的梯度
【发布时间】:2020-02-27 04:22:43
【问题描述】:

我有一个 LSTM 模型,该模型将向量 x0(维度:n)作为输入,并返回向量序列(大小:T x n)。我需要每个序列 w.r.t x0 的导数(大小:n x n)。因此,我需要一个大小为 (T x n x n) 的雅可比矩阵。在 TensorFlow 中最有效的方法是什么?我需要这个来进行优化研究,该研究需要一个采用 x0 并返回导数信息的函数。搜索了所有可用选项后,我没有任何好的方法来解决这个问题。任何帮助(伪代码、文档、帖子等)都将非常有益。

【问题讨论】:

    标签: tensorflow keras lstm gradient-descent


    【解决方案1】:

    不完全确定这是否是您正在寻找的,但 Tensorflow 具有急切执行(允许交互式调试)和一个非常全面的梯度自动计算框架。这两者的结合可能会有所帮助。此链接包含一些可能适合您特定需求的详细信息和示例代码:https://www.tensorflow.org/guide/eager,尤其是本部分:https://www.tensorflow.org/guide/eager#computing_gradients 以及帖子中的其他内容。

    我希望这会有所帮助。

    【讨论】:

      猜你喜欢
      • 2022-01-14
      • 2019-11-19
      • 2022-01-13
      • 2018-10-14
      • 2017-01-26
      • 1970-01-01
      • 2019-05-08
      • 2017-06-30
      相关资源
      最近更新 更多