【问题标题】:How to optimize Neo4j Cypher queries with multiple node matches (Cartesian Product)如何使用多个节点匹配优化 Neo4j Cypher 查询(笛卡尔积)
【发布时间】:2014-08-17 17:01:02
【问题描述】:

我目前正在尝试合并三个数据集以进行分析。我正在使用某些常用字段来建立数据集之间的连接。为了创建连接,我尝试使用以下类型的查询:

MATCH (p1:Person),(p2:Person)
WHERE p1.email = p2.email AND p1.name = p2.name AND p1 <> p2 
CREATE UNIQUE (p1)-[IS]-(p2);

类似的可以写成:

MATCH (p1:Person),(p2:Person {name:p1.name, email:p1.email})
WHERE p1 <> p2 
CREATE UNIQUE (p1)-[IS]-(p2);

不用说,这是对大约 100,000 个 Person 节点的数据库的非常慢的查询,特别是考虑到 Neo4j 不会并行处理单个查询。

现在,我的问题是是否有更好的方法在 Neo4j 中运行此类查询。我至少有八个 CPU 内核专用于 Neo4j,只要单独的线程不会因锁定彼此所需的资源而占用。

问题是我不知道 Neo4j 如何构建其 Cypher 执行计划。例如,假设我运行以下测试查询:

MATCH (p1:Person),(p2:Person {name:p1.name, email:p1.email})
WHERE p1 <> p2 
RETURN p1, p2
LIMIT 100;

尽管有 LIMIT 子句,Neo4j 仍然需要相当长的时间才能上交结果,这让我想知道即使对于这样一个有限的查询,Neo4j 在考虑 LIMIT 语句之前是否会生成整个笛卡尔积表。

感谢任何帮助,无论是解决这个特定问题还是让我了解 Neo4j 通常如何构建 Cypher 执行计划(以及如何优化查询)。旧的 Lucene 索引在这里有什么帮助吗?

【问题讨论】:

标签: graph neo4j query-optimization cypher cartesian-product


【解决方案1】:

您可以对p1 进行标签扫描,然后对p2 进行索引查找+比较:

看这里:

cypher 2.1 
foreach (i in range(1,100000) | 
  create (:Person {name:"John Doe"+str(i % 10000),
                   email:"john"+str(i % 10000)+"@doe.com"}));
+-------------------+
| No data returned. |
+-------------------+
Nodes created: 100000
Properties set: 200000
Labels added: 100000
6543 ms
neo4j-sh (?)$ CREATE INDEX ON :Person(name);
+-------------------+
| No data returned. |
+-------------------+
Indexes added: 1
28 ms

neo4j-sh (?)$ schema
Indexes
  ON :Person(name)  ONLINE

neo4j-sh (?)$ 
match (p1:Person) with p1 
match (p2:Person {name:p1.name}) using index p2:Person(name) 
where p1<>p2 AND p2.email = p1.email 
return count(*);
+----------+
| count(*) |
+----------+
| 900000   |
+----------+
1 row
8206 ms

neo4j-sh (?)$ 
match (p1:Person) with p1 
match (p2:Person {name:p1.name}) using index p2:Person(name) 
where p1<>p2 AND p2.email = p1.email
merge (p1)-[:IS]-(p2) 
return count(*);

+----------+
| count(*) |
+----------+
| 900000   |
+----------+
1 row
Relationships created: 450000
40256 ms

【讨论】:

  • 哇!如果你有时间,你会考虑详细说明一下吗?这看起来非常重要和有用。
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 2012-03-15
  • 1970-01-01
  • 1970-01-01
  • 2020-03-04
  • 1970-01-01
  • 1970-01-01
  • 2017-02-21
相关资源
最近更新 更多