如何让 Node.js 高效地处理多个请求？

Question

我正在尝试编写一个 Node.js 应用程序，它接受来自客户端的传入请求，然后调用远程服务器上的某些 Web 服务以检索数据。

const express = require('express')
const request = require('request')
const moment = require('moment')

const app = express()

app.get('/', (req, res) => {

    request('http://localhost/sleep.php', (error, response, body) => {
        res.send('get data at ' + moment().format())
    })

})

app.listen(3000)

远程服务是用PHP编写的：

<?php

    sleep(10);
    echo 'Return something!';

问题是，如果有新请求进来，那么 Node.js 会被阻塞，直到它完成最后一个回调。如何解决这个问题？有什么想法吗？

更新：

我实际上通过 Firefox 同时发出了两个请求，第二个请求花费了将近 20 秒。

Please see the image here

Answer 1

这里有一个快速演示，浏览器不会对同一 URL 的并发请求进行管道处理，但不同的 URL 通常会。向查询字符串添加不同的值是一种解决此问题的技术：例如，localhost:3000/?1517849200341 使用 Date.now()。

（广义上讲，流水线在 HTTP/1.1 中被禁用，但浏览器会使用多个 TCP 连接到同一端。流水线是 HTTP/2 的一部分，通过设置最大流数。我真的不知道这是什么表示或如何解释下面的结果。）

async function log(fn) {
  console.log(Date());
  await Promise.all(fn());
  console.log(Date());
}

const req1 = 'https://httpbin.org/delay/1';
const req2 = 'https://nghttp2.org/httpbin/delay/1';

const req3 = 'https://httpbin.org/delay/1?a';
const req4 = 'https://httpbin.org/delay/1?b';
const req5 = 'https://httpbin.org/delay/1?c';
const req6 = 'https://httpbin.org/delay/1?d';

const req7 = 'https://nghttp2.org/httpbin/delay/1?a';
const req8 = 'https://nghttp2.org/httpbin/delay/1?b';
const req9 = 'https://nghttp2.org/httpbin/delay/1?c';
const req10 = 'https://nghttp2.org/httpbin/delay/1?d';

btn1.addEventListener('click', () => log(() => [
  fetch(req1),
  fetch(req1),
  fetch(req1),
  fetch(req1),
  fetch(req1),
]));

btn2.addEventListener('click', () => log(() => [
  fetch(req2),
  fetch(req2),
  fetch(req2),
  fetch(req2),
  fetch(req2),
]));

btn3.addEventListener('click', () => log(() => [
  fetch(req1),
  fetch(req3),
  fetch(req4),
  fetch(req5),
  fetch(req6),
]));

btn4.addEventListener('click', () => log(() => [
  fetch(req2),
  fetch(req7),
  fetch(req8),
  fetch(req9),
  fetch(req10),
]));

<button id=btn1>HTTP/1.1, same URLs</button>
<button id=btn2>HTTP/2, same URLs</button>
<button id=btn3>HTTP/1.1, different URLs</button>
<button id=btn4>HTTP/2, different URLs</button>

Answer 2

Chrome 缓存是罪魁祸首。在每个选项卡中打开一个 chrome 开发控制台并单击“禁用缓存”然后刷新每个选项卡，您会看到异步返回的响应。我假设 Firefox 可能在某处也有缓存设置。 或者使用 Postman 发出多个请求...

或者，如果您真的想在多个选项卡中看到此功能，我想您也可以禁用节点服务器的缓存（除了概念证明之外，我不推荐使用它）：

...
var nocache = require('nocache')
const app = express()
app.use(nocache())
...