为什么我的余弦相似度总是正的？ （快文）

Question

我正在尝试评估表示单词的两个向量的余弦相似度。我正在使用来自 fasttext 的预训练词向量。 现在，我想知道为什么我的余弦相似度总是一个正数，无论我使用什么词。有什么建议吗？

这是我的代码的那一部分。 a 和 b 是词向量。

def cos_sim(a, b):
   dot_product = np.dot(a, b)
   norm_a = np.linalg.norm(a)
   norm_b = np.linalg.norm(b)
   return dot_product / (norm_a * norm_b)

如果有人可以帮助我，我会很高兴，因为我仍然处于初学者的水平。

Answer 1

我不确定您使用的是哪个 fasttext 数据集，但我从 here 下载了 1M、300 维的 wiki 新闻，并使用下面的示例代码，我得到了一些负余弦相似度。

所以你可能只需要尝试更多的词向量，但我不认为你做错了什么。

import io
import numpy as np
from sklearn.metrics.pairwise import cosine_similarity

ffp = "/path/to//wiki-news-300d-1M.vec"

def load_vectors(fname):
    fin = io.open(fname, 'r', encoding='utf-8', newline='\n', errors='ignore')
    n, d = map(int, fin.readline().split())
    data = {}
    for ix, line in enumerate(fin):
        tokens = line.rstrip().split(' ')
        data[tokens[0]] = list(map(float, tokens[1:]))

        if ix > 1000:
            break
    return data

data = load_vectors(ffp)
word_vectors = np.asarray(list(data.values()))

r = cosine_similarity(word_vectors[300:500, :], word_vectors[100:200])

print(r.min())
print(np.count_nonzero(r < 0))