Keras损失“NaN”；可能爆炸梯度答案

【问题标题】：Keras Loss "NaN"; Likely Exploding GradientKeras损失“NaN”；可能爆炸梯度
【发布时间】：2021-07-24 21:58:53
【问题描述】：

我正在运行一个 LSTM 模型来对天体物理学时间序列数据进行分类。我试图将每个时间序列分类为黑洞（1）或不是块洞（0）。当我运行我的 RNN 时，损失并没有减少（实际上是在增加，然后是 NaN）。我无法弄清楚如何解决这个问题。这是我的 Jupyter Notebook 的链接（其中包含有关该问题的更多信息）。

https://colab.research.google.com/drive/1NJBEIdoeToqdcYooGEtrVfaELtLXwNjZ?usp=sharing#scrollTo=d_HDprISPjZT

如果你知道如何解决这个问题，请告诉我。

【问题讨论】：

标签： python tensorflow keras deep-learning recurrent-neural-network

【解决方案1】：

大概是ReLU；试试activation="tanh"。

这里是无缘无故的附加文本，因为堆栈溢出认为人们永远无法如此简短地回答问题。

【讨论】：

我将所有 ReLU 切换为 tanh，现在梯度不再爆炸，但并没有减少。它只是保持稳定。关于如何解决这个问题的任何建议？
@user23472342 这是一个单独的问题，请随意打开它。
我知道，但您有什么建议吗？
@user23472342 尝试在Stats 或DS 上提问，并在在您的问题中提供有关问题的相关信息。