逐行解析生成的node.js子进程的输出

Question

我有一个 PhantomJS/CasperJS 脚本，我使用 process.spawn() 在 node.js 脚本中运行它。由于 CasperJS 不支持 require()ing 模块，我正在尝试将命令从 CasperJS 打印到 stdout，然后使用 spawn.stdout.on('data', function(data) {}); 从我的 node.js 脚本中读取它们，以便执行向 redis 添加对象等操作/mongoose（很复杂，是的，但似乎比为此设置 Web 服务更简单......）CasperJS 脚本执行一系列命令并创建，例如，需要添加到我的数据库中的 20 个屏幕截图。

但是，我不知道如何将data 变量（Buffer?）分成几行...我尝试将其转换为字符串然后进行替换，我尝试过正在做spawn.stdout.setEncoding('utf8');，但似乎没有任何效果......

这是我现在拥有的

var spawn = require('child_process').spawn;

var bin = "casperjs"
//googlelinks.js is the example given at http://casperjs.org/#quickstart
var args = ['scripts/googlelinks.js'];
var cspr = spawn(bin, args);

//cspr.stdout.setEncoding('utf8');
cspr.stdout.on('data', function (data) {
    var buff = new Buffer(data);
    console.log("foo: " + buff.toString('utf8'));
});

cspr.stderr.on('data', function (data) {
    data += '';
    console.log(data.replace("\n", "\nstderr: "));
});

cspr.on('exit', function (code) {
    console.log('child process exited with code ' + code);
    process.exit(code);
});

https://gist.github.com/2131204

Answer 1

试试这个：

cspr.stdout.setEncoding('utf8');
cspr.stdout.on('data', function(data) {
  var str = data.toString(), lines = str.split(/(\r?\n)/g);
  for (var i=0; i<lines.length; i++) {
    // Process the line, noting it might be incomplete.
  }
});

请注意，“数据”事件可能不一定会在输出行之间均匀中断，因此单行可能会跨越多个数据事件。

Answer 2

我实际上为此目的编写了一个 Node 库，它被称为 stream-splitter，你可以在 Github 上找到它：samcday/stream-splitter。

该库提供了一个特殊的Stream，您可以将您的 casper 标准输出与分隔符（在您的情况下为 \n）一起通过管道传输，它会发出整洁的 token 事件，它对应于它拆分的每一行来自输入Stream。其内部实现非常简单，并将大部分魔法委托给substack/node-buffers，这意味着没有不必要的Buffer 分配/副本。

Answer 3

我发现了一个更好的方法，只使用纯节点，这似乎工作得很好：

const childProcess = require('child_process');
const readline = require('readline');

const cspr = childProcess.spawn(bin, args);

const rl = readline.createInterface({ input: cspr.stdout });
rl.on('line', line => /* handle line here */)

Answer 4

添加到 maerics 的答案，它不能正确处理仅在数据转储中馈送行的一部分的情况（他们将分别为您提供该行的第一部分和第二部分，作为两条单独的行。 )

var _breakOffFirstLine = /\r?\n/
function filterStdoutDataDumpsToTextLines(callback){ //returns a function that takes chunks of stdin data, aggregates it, and passes lines one by one through to callback, all as soon as it gets them.
    var acc = ''
    return function(data){
        var splitted = data.toString().split(_breakOffFirstLine)
        var inTactLines = splitted.slice(0, splitted.length-1)
        var inTactLines[0] = acc+inTactLines[0] //if there was a partial, unended line in the previous dump, it is completed by the first section.
        acc = splitted[splitted.length-1] //if there is a partial, unended line in this dump, store it to be completed by the next (we assume there will be a terminating newline at some point. This is, generally, a safe assumption.)
        for(var i=0; i<inTactLines.length; ++i){
            callback(inTactLines[i])
        }
    }
}

用法：

process.stdout.on('data', filterStdoutDataDumpsToTextLines(function(line){
    //each time this inner function is called, you will be getting a single, complete line of the stdout ^^
}) )

Answer 5

你可以试试这个。它将忽略任何空行或空的新换行符。

cspr.stdout.on('data', (data) => {
    data = data.toString().split(/(\r?\n)/g);
    data.forEach((item, index) => {
        if (data[index] !== '\n' && data[index] !== '') {
            console.log(data[index]);
        }
    });
});

Answer 6

旧东西，但仍然有用...

为此，我制作了一个自定义流 Transform 子类。

见https://stackoverflow.com/a/59400367/4861714