在 Keras 中使用 Conv1D 处理长音频信号

Question

我有一个很长的音频信号x，它是一个包含 100000 个样本的一维列表。

为简单起见，假设我要做的就是将其与长度为 15 的滤波器进行卷积，并最终输出 100000 个样本的目标滤波信号y。

所以基本上，我正在尝试使用 1D CNN 来处理 y = conv(x, h)，并且要训练过滤器 h。

在 Keras 中执行此操作的最佳方法是什么？我发现的所有示例似乎都是“每个样本都是长度为 400 个单词的序列，并且卷积沿着该 400 个单词的序列运行”的形式。由此看来，我唯一的选择似乎是将音频信号分成大小为sequence_length 的块，但我真的宁愿避免这种情况，因为我基本上只有 1 个长度为 100000 的输入序列。

理想情况下，代码应该是这样的

import matplotlib.pylab as P
from keras.models import Model
from keras.layers import Conv1D, Input

x_train = P.randn(100000)
y_train = 2*x_train
x_val = P.randn(10000)
y_val = 2*x_val

batch_size = 64

myinput = Input(shape=(None, 1)) # shape = (BATCH_SIZE, 1D signal)
output = Conv1D(
    1, # output dimension is 1
    15, # filter length is 15
    padding="same")(myinput)

model = Model(inputs=myinput, outputs=output)

model.compile(loss='mse',
              optimizer='rmsprop',
              metrics=['mse'])


model.fit(x_train, y_train,
          batch_size=batch_size, epochs=100, shuffle=False,
          validation_data=(x_val, y_val))

当然，这里最大的问题是正确地塑造事物。

Answer 1

你完全在正确的轨道上。

虽然你有一个声音样本（example*），但 keras 仍然会假设你有很多。解决方案就是在您的输入中添加一个维度。

此外，keras 会期望您的卷积数据具有“通道”。如果您只有一个通道（例如，不是立体声），则为其设置一个值为 1 的维度。

因此，您的输入数据应为：

• (1, 100000, 1) - 如果使用 data_format='channels_last'（默认）
• (1, 1, 100000) - 如果使用 data_format='chanels_first'

这意味着：长度为 100000 的信号的 1 个样本和一个通道。

您模型中的所有其余部分似乎都非常适合这项任务。

---

如果您的内存无法同时支持全部数据，那么您需要将音频分成多个块。否则，你很高兴。 （请注意，在划分时，使用padding='valid' 可能会得到更好的结果，因为“相同”会在剪切中添加大量边框效果）。

您可能有兴趣阅读WaveNet 及其相关文章。

他们使用具有膨胀率的堆叠卷积层。

---

* - 在 Keras 中，每个“示例”都称为“样本”，尽管在音频处理中，样本通常是时间步长。因此，完整的音频文件将是 Keras 中的“样本”。