我目前是深度学习的业余爱好者，正在阅读本网站上有关 word2vector 的信息 https://www.kaggle.com/c/word2vec-nlp-tutorial/details/part-3-more-fun-with-word-vectors
对于 CBOW 或 skipgram 模型，我可以看到词向量的维度是 300，词汇量是 15000。我在之前的文章中读到的是，我们可以对向量中的词进行硬编码。所以我猜词向量维度应该等于词汇量大小或者以不同的方式提出问题，这个词维度是什么以及如何可视化它。你如何看待这个维度？
【问题讨论】：
标签： vector neural-network
“词向量维度”是你用训练文档训练的向量的维度。从技术上讲，您可以选择任何尺寸，例如 10、100、300，甚至 1000。行业标准是 300-500，因为我们已经尝试了不同的尺寸（300、400、500、... 1000 等）但没有注意到300-400后性能显着提升。 （这也取决于你的训练数据。）听起来，更多的维度意味着更多的计算。但是，如果我们将维度设置得太低，那么就没有多少向量空间来捕获整个训练文档所包含的信息。
如何可视化它？
您无法轻松地可视化 300 维向量，并且可能可视化 300 维向量对您来说并不太有用。我们能做的就是将这些向量投影到二维空间，也就是我们最熟悉且容易理解的空间。
你最后的陈述所以我猜词向量维度应该等于词汇量是错误的！ 词汇量为 171,476 个单词（英语单词总数）！词向量维度（大多是 300-500。你不想训练 10 亿维向量，是吗？）是你预先决定训练数据的向量大小。我的视频（无耻插件）将帮助你理解重要的词向量概念：AI with the Best
【讨论】：
其实词向量维度并不能反映词汇量的大小。 Word2Vec 所做的是将单词映射到它们在向量空间中的表示，您可以使该空间具有您想要的任何维度：：每个单词都由该空间中的一个点表示，单词向量维度是该单词在该空间中的坐标空间。 往往出现在相同上下文中的单词也出现在这个空间中。
希望对你有帮助
【讨论】：