【问题标题】:Node.js and mongoDB serving concurrent requestsNode.js 和 mongoDB 服务并发请求
【发布时间】:2013-09-23 22:52:56
【问题描述】:

我在使用 mongoDB 处理来自我的简单 node.js 服务器的并发请求时遇到问题。

我正在做的是发送 mongo shell 格式的查询,解析它们并从 mongoDB 发回数据。

但由于某种原因,它似乎无法同时处理多个请求.. (顺便说一句,我在本地使用它)

编辑: 我有时会在我的客户端应用程序中收到此错误:

"Stream Error. URL: http://localhostlink:1337"

当服务器没有运行时我也会得到...

编辑2: 我删除了 db.close 语句。

集群在这里真的是正确的解决方案吗,因为我只是升级应用程序以服务 4 个并发请求,这仍然不够。

我应该以其他方式完全重构服务器吗?我只想能够为来自 mongoDB 的数据提供多个请求。

EDIT3:

我可以先创建服务器然后连接到 mongo,还是应该在 MongoClient.connect(...) 函数中创建服务器?

这是我的(未优化的)服务器的代码:

  var http = require('http');
var qs = require('querystring');
var mongo =require('mongodb'); 
var MongoClient = mongo.MongoClient;
var result;
var response;
var ObjectId = require('mongodb').ObjectID;
var myDb;



http.createServer(function (request, res) {
    console.log("creating server...");
    MongoClient.connect("mongodb://127.0.0.1:27017/lalal", function(err, db) {
        if(err) { return console.dir(err); }
if (request.method == 'POST') {
        var body = '';
        response = res;
        request.on('data', function (data) {
            body += data;
            // 1e6 === 1 * Math.pow(10, 6) === 1 * 1000000 ~~~ 1MB
            if (body.length > 1e6) { 
            //     FLOOD ATTACK OR FAULTY CLIENT, NUKE REQUEST
                request.connection.destroy();
            }
        });
        request.on('end', function () {

            var clientData = qs.parse(body);
            var parts = clientData.data.split(".");
            var collectionName = parts.shift();
            var queryBig = parts.join(".");
            var queryParts = queryBig.split("(");
            var method = queryParts[0];
            var query = queryParts.join("(");

            console.log("query:"+query);
            console.log("method:"+method);
            console.log("collection:"+collectionName);

          var callback;
          switch(method){

                case 'find':
                callback = '.toArray(findCallback);';
                break;
                case 'insert':
                query = query.substring(0, query.length - 1);
                callback = ',insertCallback);';
                break;
                case 'remove':
                query = query.substring(0, query.length - 1);
                callback = ',removeCallback);'
                break;
                case 'save':
                query = query.substring(0, query.length - 1);
                callback = ',saveCallback);'
                break;
                case 'update':
                query = query.substring(0, query.length - 1);
                callback = ',updateCallback);'
                break;


            }
         if(query.indexOf('"_id"') != -1)
         {

         var indexHelper = query.indexOf('"_id"')+7;
         var s = query.substring(indexHelper, query.length);

         var indexOfQuote = s.indexOf('"')
         var restOfQuery = s.substring(indexOfQuote+1,s.length);

         var key = s.substring(0,indexOfQuote);

         query = query.substring(0,indexHelper-1) + 'new ObjectId("'+key +'")'+restOfQuery;

         }  
//      Connect to the db


//      myDb = db;
        var collection = db.collection(collectionName);

        var command = 'collection.'+query+callback;
        console.log("command:"+command);
        eval(command);


            function findCallback(err, items){

                console.log(items);

                response.writeHead(200, {'Content-Type': 'text/plain'});
                response.end(JSON.stringify(items));



            }

            function insertCallback(err, objects) {

                console.log(objects);

                if (err) console.warn(err.message);
                if (err && err.message.indexOf('E11000 ') !== -1) {
                    response.writeHead(200, {'Content-Type': 'text/plain'});
                    response.end('"error":"_id already exists"');
                }
                else{
                    response.writeHead(200, {'Content-Type': 'text/plain'});
                    response.end(JSON.stringify(objects));
                }


            }

            function removeCallback(err, numberOfRemovedDocs) {

                response.writeHead(200, {'Content-Type': 'text/plain'});
                response.end(JSON.stringify(numberOfRemovedDocs));

            }

            function saveCallback(err, result) {

                response.writeHead(200, {'Content-Type': 'text/plain'});
                response.end(JSON.stringify(result));

            }

            function updateCallback(err, numberOfUpdatedDocs) {

                response.writeHead(200, {'Content-Type': 'text/plain'});
                response.end(JSON.stringify(numberOfUpdatedDocs));

            }





        });
    }
});
}).listen(1337, '127.0.0.1');



console.log('Server running at http://127.0.0.1:1337/');

【问题讨论】:

  • 虽然那里有很多代码,而且我当然没有全部查看过,但您应该只打开一次数据库连接,并在 Node 进程的生命周期内保持打开状态。
  • 这部分会不会是“myDb = db;”在 MongoClient.connect 中问题出在哪里?因为它不再是异步的,对吗?因为我将引用传递给全局可访问变量,所以当新请求到来时它会接管
  • db.close()你为什么要关闭连接?

标签: node.js mongodb


【解决方案1】:

您看到的问题是因为 node.js 是单线程的。也就是说,它一次会分派一个请求(这实际上很好,因为它有助于避免由全局变量处理引起的错误)。如果您在执行查询之前发送了响应,您将看到并行查询执行。但是,考虑到您构建程序的方式,使用“集群”模块可能会更好。下面的代码将启动四个并发进程。

var cluster = require('cluster');

if (cluster.isMaster) {
    for (var i = 0; i < 4; i++) {
        cluster.fork();
    }

    cluster.on('exit', function (worker, code, signal) {
        cluster.fork();
    });
}
else {
    // run your node.js + MongoDB code here
}

PS。使用 MongoClient.connect 时无需关闭 db 连接,因为此 API 使用连接池来管理您的连接。

【讨论】:

  • 集群真的是正确的解决方案吗?我不会只是升级我的服务器来服务 4 个并发请求吗?这对我来说还不够。
  • @deloki 每个集群实例都有自己的连接池,因此在给定时间最多可以有 4*(池大小)MongoDB 查询。池大小默认为 5,但您可以随意设置。
  • @JohnnyHK 好的,谢谢。那么这是通过发送响应数据作为有效负载来实现并发数据库请求的最佳实践方式吗?如果不是,最好的做法是什么?
  • 我会说这是一个好习惯。顺便说一句,您可以根据需要启动更多进程。 2 到 4 倍系统中的核心数是一个很好的规则(我已经看到这个并发数在基于 I\O 完成端口的线程池实现中运行良好,这通常会执行密集的 I\O)。
  • @ruiz 如果可以,我们可以使用 forky 代替集群吗?请给我一个例子。
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2021-09-10
  • 1970-01-01
  • 2013-11-18
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多