哪个形状应该具有 LSTM NN 的输入和输出数据？

Question

我在为具有 LSTM 层的 NN 创建数据的方式上存在问题。我有许多文件，其中包含数百行。 每个文件代表一首歌曲，每行代表一个带有 4 个值的音符。我希望 NN 阅读带有 10 个音符序列 的音符，以便它可以从中预测下一个音符。如果需要，我们可以将音符数量固定为每首歌曲 5000 个。

所以我只想知道我的输入和输出数据应该具有哪种形状以及如何定义第一个 LSTM 层。

model = Sequential()
model.add(LSTM(32, input_shape=(5000, 4),return_sequences=True))

总结一下：

• 一个文件有5000行4列，代表一首歌曲。

• 文件中的一行代表一个带有 4 个值的音符。

感谢您的帮助。

Answer 1

第一个 LSTM 层的输入形状应该是(None, 10, 4)。 模型的输出形状为(None, 4)。我使用None 作为批量大小。

我编写了一个简单的 LSTM 作为例子：

import numpy as np
from keras.layers import LSTM
from keras.models import Sequential

batch_size = 32
window_length = 10
note_dim = 4
n_samples = 5000

# Input data. TODO: Slide window and modify it to use real data
x = np.ones(shape=(n_samples, window_length, note_dim))
y = np.ones(shape=(n_samples, note_dim))

# Define model
model = Sequential()
model.add(LSTM(note_dim, input_shape=(window_length, note_dim))) # The batch dimension is implicit here

model.compile('sgd', 'mse')
model.fit(x=x, # Batch input shape is: (None, window_length, note_dim)
          y=y, # Batch output shape is: (None, note_dim)
          batch_size=batch_size)

如果您想要更复杂的模型（即 2 个 LSTM 层），您可以这样定义：

# ...
# Define model
hidden_size = 50
model = Sequential()
model.add(LSTM(hidden_size, input_shape=(window_length, note_dim), return_sequences=True)) # The batch dimension is implicit here
model.add(LSTM(note_dim))
# ...

---

更新：回答您的第一条评论。

x 应该包含滑动窗口后的所有歌曲。例如，假设您有一个变量songs，其形状为(n_songs, notes_per_song, note_dim)，其中包含您所有的歌曲。然后，您可以创建x 和y，如下所示：

# ...
# Input data    
# Suppose that variable ´songs´ is an array with shape: (n_songs, notes_per_song, note_dim). 
samples_per_song = notes_per_song-window_length
n_samples = n_songs*samples_per_song
x = np.zeros(shape=(n_samples, window_length, note_dim))
y = np.zeros(shape=(n_samples, note_dim))
for n, song in enumerate(songs):
    for i in range(samples_per_song):
        x[i+n*samples_per_song, :, :] = song[i:(i+window_length), :]
        y[i+n*samples_per_song, :, :] = song[i+window_length, :] # note that you want to predict
# ...

Answer 2

我希望 NN 读取包含 10 个音符的序列的音符，以便它可以从中预测下一个音符。

我从未使用过 keras，但我认为您应该先将这些笔记转换为 id。例如：(aa, bb, cc, dd) 为 1 和 (ab, bb, cc, dd) 为 2 等等。

然后您为编码器读取 10 个 ids/notes，然后添加一个投影以将最终状态投影到第 11 个音符。如果你想用歌曲中任何音符的 10 个音符来测试模型，那么你可以训练第二个到第 11 个，并将第 12 个作为投影后的目标。依此类推，直到最后一个音符成为目标。这是一首歌曲，对所有歌曲重复此操作。

您完全可以通过 id 取回笔记。你可以建立一个词汇表来来回转移它。