如何提高数据框中字符串相似度得分的计算速度？

Question

我有一个如下的数据框：

df = pd.DataFrame(data=[[1, 'Berlin',], [2, 'Paris', ],
                    [3, 'Lausanne', ], [4, 'Bayswater',],
                    [5, 'Table Bay', ], [6, 'Bejing',],
                    [7, 'Bombay',], [8, 'About the IIS']],
                    columns=['id', 'text'],)

我想使用库 jellyfish 中的 jaro_winkler 来计算每个字符串的相似度分数，并与其余所有字符串进行比较，并输出最相似的一个或得到相似度分数矩阵如下：

      str1 str2 str3
str1    1   0.6  0.7
str2    0.6  1   0.3
str3    0.7  0.3  1

我怎样才能以最快的方式得到这个结果。现在我只是使用循环来比较每一个并将结果存储在列表中。

 def sim_cal(string1, string2):
     similar = jellyfish.jaro_winkler(string1, string2)
     return similar

但是如果数据变大速度会很慢，那有什么办法可以加快速度呢？

谢谢。

Answer 1

使用Gensim，您可以执行this 之类的操作。

我在这个定时示例中使用了GloVe：

不会说谎，这很有趣。