对 Express JS 的并发请求失败。需要解释发生了什么答案

【问题标题】：Concurrent Requests to Express JS fails. Need Explanation what is happening对 Express JS 的并发请求失败。需要解释发生了什么
【发布时间】：2021-05-13 10:08:16
【问题描述】：

您好，我有一个在 AWS Fargate 上运行的 expressjs 服务器，它处理对不同服务的许多 API 调用，并将它们聚合成单个响应返回给客户端。

我的问题是，我发现当我在大约同一时间收到对同一端点的请求时，这些请求中至少有一个会失败。这种行为非常奇怪，所以我需要一些帮助来解释正在发生的事情，并希望如何解决这个问题。

首先，这是我的路线设置的伪代码：

router.post( '/endpoint', async function (req, res, next) {
  try {
    let uId = req.body.uId
    let logId = req.body.logId

    let user = await axios(uId) //call to database to retrieve user information (appsync)
    console.log(logId, user)

    let data = []

    for (i = 0, i<user.accounts.length, i++) {
      if (user.accounts[i].provider === 'google') {
        let googleInfo = await axios(user.accounts[i]) // calls google API 
        console.log(logId, user.accounts[i], i , googleInfo)
        data.push(googleInfo)

      } else if (user.accounts[i].provider === 'microsoft') {
        let microsoftInfo = await axios(user.accounts[i]) // calls microsoft graph API
        console.log(logId, user.accounts[i], i , microsoftInfo)
        data.push(microsoftInfo)

      }
    }

    let response = processDataFunction(data) // some function that processes the data

    res.json(response)
  } catch (e) {
    next(e)
  }
})

当只有一个请求时，这一切都正常工作。但是，当 2 个或更多同时访问我们的端点时，服务器会响应 500 服务器错误，这就是我在 cloudwatch 日志中看到的内容。

dateTime1: request1, user: {}
dateTime2: request1, user.accounts[0], 0, googleInfo: {user.accounts[0]}
dateTime3: request1, user.accounts[1], 1, microsoftInfo: {user.accounts[1]}
dateTime4: request1, user.accounts[2], 2, googleInfo: {user.accounts[3]}
dateTime5: error ......
dateTime6: request2, user.accounts[0], 0, googleInfo: {user.accounts[0]}
dateTime7: request2, user.accounts[1], 1, microsoftInfo: {user.accounts[1]}
dateTime8: request2, user.accounts[2], 2, googleInfo: {user.accounts[2]}
dateTime9: request2, user.accounts[3], 3, googleInfo: {user.accounts[3]}

该错误是由于我正在为user.accounts[3] 请求资源而导致的 microsoft/google 服务器出错，而此时循环和访问令牌仍在user.accounts[2] 中（请参阅 dateTime4）

我能够通过增加 ECS 中正在运行的任务数量来部分解决此问题。我最终能够同时处理更多并发请求。但是，在某些时候，同样的错误仍然会发生。

任何解释为什么会发生这种情况，是我增加 ECS 任务数量的唯一方法吗？

【问题讨论】：

标签： node.js express concurrency axios aws-fargate

【解决方案1】：

致遇到同样问题的任何人。我仍然不知道发生了什么，但我能够通过将所有 for 循环转换为：

Promise.all(arr.map( async(item) => { 
  return await axios( // request )
}))

【讨论】：