具有双向 LSTM 和 CTC 输出层的 RNN 深度学习框架答案

【问题标题】：Deep Learning Framework for RNN with bi-directional LSTM and CTC output layer具有双向 LSTM 和 CTC 输出层的 RNN 深度学习框架
【发布时间】：2016-07-12 19:00:11
【问题描述】：

我希望你能帮助我。我想知道您是否可以给我任何提示使用哪个框架：

我计划建立一个带有双向 LSTM 和 CTC 输出层的 RNN。

我一直在与 Theano 和 Lasagne 合作，但不幸的是，不可能实现开箱即用的 CTC 双向 LSTM。

Lasagne 提供了 RNN 的可能性： http://lasagne.readthedocs.io/en/latest/modules/layers/recurrent.html

我还发现了一个 CTC 的实现： https://github.com/skaae/Lasagne-CTC

你会尝试用 Theano 和 Lasagne 来做这件事吗？或者你会推荐一个不同的框架。

很高兴收到您的所有反馈！

【问题讨论】：

请注意，Keras 现在有一个 CTC 实现：github.com/daweileng/keras_MOD 和 github.com/fchollet/keras/blob/master/examples/image_ocr.py

标签： frameworks bidirectional lstm recurrent-neural-network

【解决方案1】：

我对千层面没有什么经验。据我所知，对于最受欢迎的开源深度学习框架，例如 Theano、Tensorflow 以及基于它们构建的 Keras、Lasagne 等，目前还没有集成 CTC 层。

在这里，我向您推荐一个由我维护的 Keras 分支。它集成了一个有效的 CTC，请查看here。到目前为止，以下训练/测试函数在 CTC 成本下运行良好：

train_on_batch()
test_on_batch()
predict_on_batch()

除了CTC，用这个fork你还可以构建FCN(Fully Convolutional Network)、CNN+LSTM组合。希望这会有所帮助，我很高兴听到您的反馈。

【讨论】：