使用 Lingpipe 进行词级语言模型

Question

我一直在尝试让一个词级语言模型在 lingpipe 上工作。我遇到的所有示例和教程都显示了 character-n-gram 模型。如何使用 lingpipe 训练单词级模型，然后使用该模型在其他文档上进行测试？

此外，我注意到 TokenizedLM 不可序列化。我有没有办法保存它并在以后加载它而不必每次都重新训练？

最后，是否有任何其他框架/工具可以让我在没有任何编码的情况下做到这一点？

Answer 1

我不了解 Java，但如果您不使用该编程语言，则可以使用 Python NLTK，它有 tokenizers 和 ngram-models 以及很多 other stuff。还有一个book 可以用作介绍和概览。