那么,您想要更多并发请求吗?让我们探索一下我们可以在这里做什么。
查询
首先 - 检查查询是否执行得足够好。复制粘贴 Neo4j 浏览器,在前面加上 PROFILE 并浏览输出。
您的查询可能比您预期的要多得多。这会导致等待时间很长,因为 Neo4j 仍在执行查询。
客户
HttpClient 配置
您正在使用PoolingHttpClientConnectionManager。
来自文档:
PoolingHttpClientConnectionManager 维护每个路由的最大连接数限制。默认情况下,此实现将为每个给定路由创建不超过 2 个并发连接,并且总共不超过 20 个连接。
所以,我们应该增加限制。示例:
PoolingHttpClientConnectionManager cnnMgr = new PoolingHttpClientConnectionManager();
cnnMgr.setMaxTotal(500);
cnnMgr.setDefaultMaxPerRoute(100);
HttpRequest
尝试在请求中添加 keep-alive 标头。示例:
request.setHeader("Connection", "keep-alive");
那么,您应该尽快关闭您的回复。您不应该依赖这样一个事实,即当您用尽流内容时,连接已关闭。代码:
try(CloseableHttpResponse response = httpClient.execute(request)) {
// do stuff with response here
// close response when try-with-resource block ends
}
记住 - 您从服务器事务端点接收的内容流回客户端。
return createResultSet(new JsonObject(IOUtils.toString(response.getEntity().getContent())));
因此,在此代码示例中,我们一直等到检索到完整响应,然后才开始序列化。
在你的情况下,你正在寻找这样的东西:
String rawJsonResult = null;
try(CloseableHttpResponse response = httpClient.execute(request);) {
rawJsonResult = IOUtils.toString(response.getEntity().getContent());
} catch (IOException e) {
throw new RuntimeException(e);
}
return createResultSet(new JsonObject(rawJsonResult));
通过这样做,我们确保在任何序列化发生之前检索结果并关闭连接。这将为其他并发连接释放资源。
服务器
Neo4j 使用 Jetty 作为 Web 服务器。 Jetty 由 BlockingQueue 支持。这意味着有x 可以处理的并发HTTP 请求量。这个x 是队列大小。如果我们有超过x 数量的并发请求,那么队列中有一个空闲位置等待。
幸运的是,您可以configure 队列有多大。您对此房产感兴趣:
org.neo4j.server.webserver.maxthreads=200
注意:这里没有魔法。默认情况下,Neo4j 使用cpuCount * 4 数量的 Web 服务器线程。增加此数量可能会导致并发请求数量增加,但每个请求可能会变慢。
Linux
你应该check this。每个 TCP 连接都是一个单独的文件。通常,大多数 Linux 发行版的默认值是1024。你需要增加它。你可以试试40000。
记住——这不仅适用于服务器,也适用于客户端。您不仅要接收连接,还需要打开它们。
一般说明
您不应该那么相信分析结果。我们在发出 HTTP 请求时等待是完全可以的。总的来说 - 这是沟通中最昂贵的部分。
此外,您应该确保您的客户端和服务器位于同一本地网络上。通过公共网络进行请求会显着降低性能。
最后一个 - 并发 HTTP 连接有上限。超过这个限制会使数据库几乎没有响应(类似于任何其他 Web 应用程序)。您可能需要考虑水平扩展(Neo4j 集群)才能发出更多并发请求。
祝你好运!