使用 PostgreSQL 查找流行的字符串

Question

我在 PostgreSQL 表中有一堆文本行，我正在尝试查找常用字符串。

例如，假设我有一个基本表格：

CREATE TABLE a (id serial, value text);
INSERT INTO a (value) VALUES
    ('I go to the movie theater'), 
    ('New movie theater releases'), 
    ('Coming out this week at your local movie theater'),
    ('New exposition about learning disabilities at the children museum'),
    ('The genius found in learning disabilities')
;

我正在尝试在所有行中找到像 movie theater 和 learning disabilities 这样的流行字符串（目标是显示像 Twitter“趋势”这样的“趋势”字符串之王的列表）

我使用全文搜索，并尝试将ts_stat 与ts_headline 结合使用，但结果非常令人失望。

有什么想法吗？谢谢！

Answer 1

Posgres 没有现成的文本搜索功能来查找最流行的短语。对于两个单词的短语，您可以使用ts_stat() 查找最流行的单词，消除助词、介词等，然后交叉连接这些单词以找到最流行的配对。

对于实际数据，您可能希望更改标记为 --> parameter. 的值。在较大的数据集上查询可能会非常昂贵。

with popular_words as (
    select word
    from ts_stat('select value::tsvector from a')
    where nentry > 1                                --> parameter
    and not word in ('to', 'the', 'at', 'in', 'a')  --> parameter
)
select concat_ws(' ', a1.word, a2.word) phrase, count(*) 
from popular_words as a1
cross join popular_words as a2
cross join a
where value ilike format('%%%s %s%%', a1.word, a2.word)
group by 1
having count(*) > 1                                 --> parameter
order by 2 desc;


        phrase         | count 
-----------------------+-------
 movie theater         |     3
 learning disabilities |     2
(2 rows)

Answer 2

例如： SELECT * FROM a WHERE value LIKE '%movie theater%';

这将在值列中的某处找到与模式“电影院”匹配的行（并且可以在其之前或之后包含任意数量的字符）。