tensorflow中cudnnlstm的默认激活函数是什么答案

【问题标题】：What is the default activation function of cudnnlstm in tensorflowtensorflow中cudnnlstm的默认激活函数是什么
【发布时间】：2018-10-25 15:47:22
【问题描述】：

TensorFlow中cudnnlstm的默认激活函数是什么？如何设置激活函数如relu？也许它只是线性模型？我阅读了文档，但没有找到。

例如，代码如下：

lstmcell=tf.contrib.cudnn_rnn.CudnnLSTM(1,encoder_size,direction="bidirectional")

hq,_ =lstmcell(query)

我阅读了TensorFlowFrom this link的文档。

函数如下

__init__(

    num_layers,
    num_units,
    input_mode=CUDNN_INPUT_LINEAR_MODE,
    direction=CUDNN_RNN_UNIDIRECTION,
    dropout=0.0,
    seed=None,
    dtype=tf.float32,
    kernel_initializer=None,
    bias_initializer=None,
    name=None
)

并且没有关键字来设置参数，例如"activation = "tanh"，就像tf.nn.rnn_cell.LSTMell一样。

那么cudnnlstm在TensorFlow中的默认激活函数是什么，怎么改成leaky_relu。

【问题讨论】：

为了得到您问题的好答案，最好分享您的代码以帮助我们帮助您。
改写，将标题也放入正文

标签： tensorflow deep-learning lstm

【解决方案1】：

tf.contrib.cudnn_rnn.CudnnLSTM() : Tanh

这是在 Keras github 中给出的。

https://github.com/keras-team/keras/issues/8510#issuecomment-429255318

英伟达文档。

https://devblogs.nvidia.com/optimizing-recurrent-neural-networks-cudnn-5/

【讨论】：

【解决方案2】：

回答OP的第二个问题，稍后编辑，有currently no way to set a custom activation function for CudnnLSTM and CudnnGRU。

【讨论】：