NLP - 单词表示

Question

我正在研究一种单词表示算法，类似于Word2Vec 和GloVe。我被要求使其更具动态性，以便可以将新单词添加到词汇表中，并且可以将新文档提交给即使在表示（向量）已经创建之后的程序。

问题是，我如何知道我的代理是否有效？我怎么知道它是否真的抓住了每个单词的意思？如何将我的表示与其他现有的向量空间模型进行比较？

截至目前，我正在做以下测试来检查我的词向量的质量：

距离测试：

向量间的余弦距离是否反映了词间的语义距离？

类比测试：

表示能不能用来解决“国王对王后就像男人对________”这样的问题，（答案应该是女人）

挑出奇数：

向量能否用于在给定的单词列表中挑选奇数单词。如果输入是 {"cat","dog","phone"}，输出应该是 "phone"？

我应该做哪些其他测试来检查向量的质量？词向量还可以完成哪些其他任务？向量空间模型有基准吗？

Answer 1

您的测试听起来很合理——它们是研究论文中用来测试词嵌入质量的常用评估任务。

此外，www.wordvectors.org 网站可以让您很好地了解您的向量是如何衡量的。它允许您上传嵌入、生成绘图、提供与词对相似度排名的相关性，并将您的嵌入与先前研究中的预训练向量进行比较。您可以在accompanying paper 中找到更详细的说明。