【问题标题】：Cosine similarity of a new text document with existing list of documents新文本文档与现有文档列表的余弦相似度
【发布时间】：2020-07-29 10:02:48
【问题描述】：

我有一个包含 1000 个带有相应关键字的文本文档的数据框。我想通过查找与列表中最相似的文档对应的关键字来提取新文档的关键字。

【问题讨论】：

您能否分享一个我们可以调查的可重现问题。你可以找到一些有用的提示here

标签： python text nlp similarity cosine-similarity

【解决方案1】：

首先将您的 csv 保存到数据帧 df 并使用以下函数进行余弦相似度计算。 def get_cosine(vec1, vec2): 交集 = 集合（vec1.keys()) & 集合（vec2.keys()) 分子 = sum([vec1[x] * vec2[x] for x in intersection])

sum1 = sum([vec1[x]**2 for x in vec1.keys()])
sum2 = sum([vec2[x]**2 for x in vec2.keys()])
denominator = math.sqrt(sum1) * math.sqrt(sum2)

if not denominator:
    return 0.0
else:
    return float(numerator) / denominator

def text_to_vector(text):
word = re.compile(r'\w+')
words = word.findall(text)
return Counter(words)

def get_result(content_a, content_b):
text1 = content_a
text2 = content_b

vector1 = text_to_vector(text1)
vector2 = text_to_vector(text2)

cosine_result = get_cosine(vector1, vector2)
return cosine_result

然后遍历df并调用如下函数：

similarity=[]
for ind in df.index:
#my_doc="new document should go in here"
#prev_doc= "previous document for each index should go in here"
cos=get_result(my_doc, prev_doc)
similarity.append(cos)
max_ind= similarity.index(max(similarity))

你会得到最相似文档的索引位置

【讨论】：