我尝试了解 LSTM 以及如何使用 Keras 构建它们。我发现，运行 RNN 主要有 4 种模式（图中正确的 4 种）
图片来源：Andrej Karpathy
现在我想知道他们每个人的简约代码 sn-p 在 Keras 中会是什么样子。 所以像
model = Sequential()
model.add(LSTM(128, input_shape=(timesteps, data_dim)))
model.add(Dense(1))
对于这 4 个任务中的每一个，可能需要一点解释。
【问题讨论】：
标签： machine-learning neural-network deep-learning keras recurrent-neural-network
所以：
一对一：您可以使用Dense 层，因为您不处理序列：
model.add(Dense(output_size, input_shape=input_shape))
一对多：这个选项不太支持，因为Keras中的模型链接不太容易，所以下面的版本是最简单的：
model.add(RepeatVector(number_of_times, input_shape=input_shape))
model.add(LSTM(output_size, return_sequences=True))
多对一：实际上，您的代码 sn-p （几乎）是这种方法的一个示例：
model = Sequential()
model.add(LSTM(1, input_shape=(timesteps, data_dim)))
Many-to-many：当输入和输出的长度与循环步数匹配时，这是最简单的sn-p：
model = Sequential()
model.add(LSTM(1, input_shape=(timesteps, data_dim), return_sequences=True))
当步数与输入/输出长度不同时的多对多：这在 Keras 中非常困难。没有简单的代码 sn-ps 来编写代码。
编辑：广告 5
在我最近的一个应用程序中，我们实现了可能类似于第四张图片中的 many-to-many 的东西。如果您想拥有一个具有以下架构的网络（当输入长于输出时）：
O O O
| | |
O O O O O O
| | | | | |
O O O O O O
您可以通过以下方式实现此目的：
model = Sequential()
model.add(LSTM(1, input_shape=(timesteps, data_dim), return_sequences=True))
model.add(Lambda(lambda x: x[:, -N:, :])) #Select last N from output
其中N 是您要覆盖的最后步骤数（在图像N = 3 上）。
从现在开始：
O O O
| | |
O O O O O O
| | |
O O O
就像使用例如长度为N 的人工填充序列一样简单。 0 向量，以便将其调整为适当的大小。
【讨论】：
x 和其他等于0 的输入。但是 - 另一方面 - 他们可能会接受同样的x 重复多次。不同的方法是链接模型，这在Keras 中很难。我提供的选项是Keras中一对多架构的最简单情况。
@Marcin Możejko 的精彩回答
我会将以下内容添加到 NR.5（具有不同输入/输出长度的多对多）：
A) 作为普通 LSTM
model = Sequential()
model.add(LSTM(N_BLOCKS, input_shape=(N_INPUTS, N_FEATURES)))
model.add(Dense(N_OUTPUTS))
B) 作为编码器-解码器 LSTM
model.add(LSTM(N_BLOCKS, input_shape=(N_INPUTS, N_FEATURES))
model.add(RepeatVector(N_OUTPUTS))
model.add(LSTM(N_BLOCKS, return_sequences=True))
model.add(TimeDistributed(Dense(1)))
model.add(Activation('linear'))
【讨论】：
B) Encoder-Decoder LSTM架构的细节吗？我在理解“RepeatVector”/“TimeDistributed”步骤的角色时遇到问题。