如何在NodeJS中读取大文件？

Question

我正在尝试读取 2000 万行文件并更正从 Windows 到 Mac 的行结尾。我知道它可以在 sed 中完成，但 sed 给了我一个我不知道如何修复的错误（dos2unix：在第 625060 行找到二进制符号 0x0008）。所以我正在尝试在 NodeJS 中解决这个问题。这是我的代码：

var fs = require('fs');
var eol = require('eol');

//read file
var input = fs.readFileSync(process.argv[2], 'utf8');

//fix lines
output = eol.auto(input);
console.log("Lines Fixed! Now Writing....")

//write file
fs.writeFile(process.argv[2] + '_fixed.txt', output, function (err) {
  if (err) return console.log(err); 
});
console.log("Done!")

问题是文件太大，我收到此错误 buffer.js:513 throw new Error('"toString()" failed');

Answer 1

你不应该同步执行它。处理大数据的最佳方式是流：

let output = '';

const readStream = fs.createReadStream(filename);

readStream.on('data', function(chunk) {
  output += eol.auto(chunk.toString('utf8'));
});

readStream.on('end', function() {
  console.log('finished reading');
  // write to file here.
});