如何在张量流嵌入层中使用 fasttext 向量？

Question

我只是想知道如何在 keras/tensorflow 嵌入层中将 Fasttext 词向量用于 OOV 词。外面什么都没有。也许有人也想到了这一点，并对我有一些提示？

通过词嵌入查找的方式通过索引工作，例如 tf.nn.embedding_lookup(word_embeddings, x)

您可以为一个 OOV 建立一个索引。但是如何在运行时分配特定的向量（来自不同的自定义源，如 fasttext）？

我想象有一个函数可以自定义为 OOV 词的 UNK 索引分配一个向量。

与此相关：

Assign custom word vector to UNK token during prediction?

Using subword information in OOV token from fasttext in word embedding layer (keras/tensorflow)

Answer 1

您可以在 tensorflow 之外进行嵌入查找\计算，并将嵌入的文本用作模型的输入（因此输入不会是单词索引序列，而是向量序列）