CNN-LSTM 结构：后填充与前填充？

【问题标题】：CNN-LSTM structure: post vs pre padding?CNN-LSTM 结构：后填充与前填充？
【发布时间】：2020-04-30 05:00:33
【问题描述】：

在这样的结构中：CNN -> LSTM -> Dense
输入是可变长度（例如语音识别 CTC），需要填充。
前后填充之间的选择会影响性能吗？
我读了Effects of padding on LSTMs and CNNs
是不是只要输入层是CNN，pre vs post就不会影响性能？

【问题讨论】：

【解决方案1】：

如论文所示

所以如果你对 LSTM 应用后填充，你的性能显然会更差。

由于 LSTM 基于一系列数据进行学习并尝试找到与过去的关系，因此添加了白噪声，即LSTM 预填充，在输入中会阻止它们建立这种关系。

如果在 CNN 中加入 pre-padding，我相信 LSTM 的性能不会受到影响，因为 CNN 的输出不会改变。

据我了解，CNN post padding 和 LSTM pre padding 是一回事，可能会导致性能更差。

一般来说，你可以通过阅读论文获得可靠的信息。在论坛中，您将了解其他人的意见。

【讨论】：