如何使用 BERT 进行机器翻译？答案

【问题标题】：How can i use BERT fo machine Translation?如何使用 BERT 进行机器翻译？
【发布时间】：2020-08-14 20:12:16
【问题描述】：

我遇到了一个大问题。对于我的学士论文，我必须使用 BERT 制作一个机器翻译模型。但我现在没有任何进展。您知道可以在这里帮助我的文档或其他内容吗？我已经阅读了一些关于这个方向的论文，但也许有一个文档或教程可以帮助我。

对于我的学士论文，我必须将文本摘要翻译成标题。我希望有人可以帮助我。

【问题讨论】：

【解决方案1】：

BERT 不是机器翻译模型，BERT 旨在提供对各种 NLP 任务有用的上下文句子表示。尽管有一些方法可以将 BERT 整合到机器翻译中 (https://openreview.net/forum?id=Hyl7ygStwB)，但这并不是一个容易的问题，而且它是否真的有回报值得怀疑。

从你的问题看来，你不是真的机器翻译，而是自动摘要。与机器翻译类似，它可以使用序列到序列模型来处理，但我们在 NLP 中不称其为翻译。对于序列到序列的建模，有不同的预训练模型，例如BART 或MASS。这些应该比 BERT 有用得多。

【讨论】：