如何用Node.js编写内存效率高的应用程序

程序员文章站 2022-06-25 09:16:08

前言软件应用程序在计算机的主存储器中运行，我们称之为随机存取存储器(ram)。javascript，尤其是 nodejs（服务端js）允许我们为终端用户编写从小型到大型的软件项目。处理程序的内存总是一...

前言

软件应用程序在计算机的主存储器中运行，我们称之为随机存取存储器(ram)。javascript，尤其是 nodejs（服务端js）允许我们为终端用户编写从小型到大型的软件项目。处理程序的内存总是一个棘手的问题，因为糟糕的实现可能会阻塞在给定服务器或系统上运行的所有其他应用程序。c 和 c++程序员确实关心内存管理，因为隐藏在代码的每个角落都有可能出现可怕的内存泄漏。但是对于 js 开发者来说，你真的有关心过这个问题吗？

由于 js 开发人员通常在专用的高容量服务器上进行 web 服务器编程，他们可能不会察觉多任务处理的延迟。比方说在开发 web 服务器的情况下，我们也会运行多个应用程序，如数据库服务器( mysql )、缓存服务器( redis )和其他需要的应用。我们需要知道它们也会消耗可用的主内存。如果我们随意地编写应用程序，很可能会降低其他进程的性能，甚至让内存完全拒绝对它们的分配。在本文中，我们通过解决一个问题来了解 nodejs 的流、缓冲区和管道等结构，并了解它们分别如何支持编写内存有效的应用程序。

问题：大文件复制

如果有人被要求用 nodejs 写一段文件复制的程序，那么他会迅速写出下面这段代码：

const fs = require('fs');

let filename = process.argv[2];
let destpath = process.argv[3];

fs.readfile(filename, (err, data) => {
    if (err) throw err;

    fs.writefile(destpath || 'output', data, (err) => {
        if (err) throw err;
    });
    
    console.log('new file has been created!');
});

这段代码简单地根据输入的文件名和路径，在尝试对文件读取后把它写入目标路径，这对于小文件来说是不成问题的。

现在假设我们有一个大文件（大于4 gb）需要用这段程序来进行备份。就以我的一个达 7.4g 的超高清4k 电影为例子好了，我用上述的程序代码把它从当前目录复制到别的目录。

$ node basic_copy.js cartoonmovie.mkv ~/documents/bigmovie.mkv

然后在 ubuntu（linux ）系统下我得到了这段报错：

/home/shobarani/workspace/basic_copy.js:7

if (err) throw err;

^

rangeerror: file size is greater than possible buffer: 0x7fffffff bytes

at fsreqwrap.readfileafterstat [as oncomplete] (fs.js:453:11)

正如你看到的那样，由于 nodejs 最大只允许写入 2gb 的数据到它的缓冲区，导致了错误发生在读取文件的过程中。为了解决这个问题，当你在进行 i/o 密集操作的时候（复制、处理、压缩等），最好考虑一下内存的情况。

nodejs 中的 streams 和 buffers

为了解决上述问题，我们需要一个办法把大文件切成许多文件块，同时需要一个数据结构去存放这些文件块。一个 buffer 就是用来存储二进制数据的结构。接下来，我们需要一个读写文件块的方法，而 streams 则提供了这部分能力。

buffers（缓冲区）

我们能够利用 buffer 对象轻松地创建一个 buffer。

let buffer = new buffer(10); # 10 为 buffer 的体积
console.log(buffer); # prints <buffer 00 00 00 00 00 00 00 00 00 00>

在新版本的 nodejs （>8）中，你也可以这样写。

let buffer = new buffer.alloc(10);
console.log(buffer); # prints <buffer 00 00 00 00 00 00 00 00 00 00>

如果我们已经有了一些数据，比如数组或者别的数据集，我们可以为它们创建一个 buffer。

let name = 'node js dev';
let buffer = buffer.from(name);
console.log(buffer) # prints <buffer 4e 6f 64 65 20 4a 53 20 44 45 5>

buffers 有一些如buffer.tostring()和buffer.tojson()之类的重要方法，能够深入到其所存储的数据当中去。

我们不会为了优化代码而去直接创建原始 buffer。nodejs 和 v8 引擎在处理 streams 和网络 socket 的时候就已经在创建内部缓冲区（队列）中实现了这一点。

streams（流）

简单来说，流就像 nodejs 对象上的任意门。在计算机网络中，入口是一个输入动作，出口是一个输出动作。我们接下来将继续使用这些术语。

流的类型总共有四种：

可读流（用于读取数据）
可写流（用于写入数据）
双工流（同时可用于读写）
转换流（一种用于处理数据的自定义双工流，如压缩，检查数据等）

下面这句话可以清晰地阐述为什么我们应该使用流。

stream api (尤其是stream.pipe()方法)的一个重要目标是将数据缓冲限制在可接受的水平，这样不同速度的源和目标就不会阻塞可用内存。

我们需要一些办法去完成任务而不至于压垮系统。这也是我们在文章开头就已经提到过的。

如何用Node.js编写内存效率高的应用程序

上面的示意图中我们有两个类型的流，分别是可读流和可写流。.pipe()方法是一个非常基本的方法，用于连接可读流和可写流。如果你不明白上面的示意图，也没关系，在看完我们的例子以后，你可以回到示意图这里来，那个时候一切都会显得理所当然。管道是一种引人注目的机制，下面我们用两个例子来说明它。

解法1（简单地使用流来复制文件）

让我们设计一种解法来解决前文中大文件复制的问题。首先我们要创建两个流，然后执行接下来的几个步骤。

1.监听来自可读流的数据块

2.把数据块写进可写流

3.跟踪文件复制的进度

我们把这段代码命名为streams_copy_basic.js

/*
    a file copy with streams and events - author: naren arya
*/

const stream = require('stream');
const fs = require('fs');

let filename = process.argv[2];
let destpath = process.argv[3];

const readabale = fs.createreadstream(filename);
const writeable = fs.createwritestream(destpath || "output");

fs.stat(filename, (err, stats) => {
    this.filesize = stats.size;
    this.counter = 1;
    this.filearray = filename.split('.');
    
    try {
        this.duplicate = destpath + "/" + this.filearray[0] + '_copy.' + this.filearray[1];
    } catch(e) {
        console.exception('file name is invalid! please pass the proper one');
    }
    
    process.stdout.write(`file: ${this.duplicate} is being created:`);
    
    readabale.on('data', (chunk)=> {
        let percentagecopied = ((chunk.length * this.counter) / this.filesize) * 100;
        process.stdout.clearline();  // clear current text
        process.stdout.cursorto(0);
        process.stdout.write(`${math.round(percentagecopied)}%`);
        writeable.write(chunk);
        this.counter += 1;
    });
    
    readabale.on('end', (e) => {
        process.stdout.clearline();  // clear current text
        process.stdout.cursorto(0);
        process.stdout.write("successfully finished the operation");
        return;
    });
    
    readabale.on('error', (e) => {
        console.log("some error occured: ", e);
    });
    
    writeable.on('finish', () => {
        console.log("successfully created the file copy!");
    });
    
});

在这段程序中，我们接收用户传入的两个文件路径（源文件和目标文件），然后创建了两个流，用于把数据块从可读流运到可写流。然后我们定义了一些变量去追踪文件复制的进度，然后输出到控制台（此处为 console）。与此同时我们还订阅了一些事件：

data：当一个数据块被读取时触发

end：当一个数据块被可读流所读取完的时候触发

error：当读取数据块的时候出错时触发

运行这段程序，我们可以成功地完成一个大文件（此处为7.4 g）的复制任务。

$ time node streams_copy_basic.js cartoonmovie.mkv ~/documents/4kdemo.mkv

然而，当我们通过任务管理器观察程序在运行过程中的内存状况时，依旧有一个问题。

如何用Node.js编写内存效率高的应用程序

4.6gb？我们的程序在运行时所消耗的内存，在这里是讲不通的，以及它很有可能会卡死其他的应用程序。

发生了什么？

如果你有仔细观察上图中的读写率，你会发现一些端倪。

disk read: 53.4 mib/s

disk write: 14.8 mib/s

这意味着生产者正在以更快的速度生产，而消费者无法跟上这个速度。计算机为了保存读取的数据块，将多余的数据存储到机器的ram中。这就是ram出现峰值的原因。

上述代码在我的机器上运行了3分16秒……

17.16s user 25.06s system 21% cpu 3:16.61 total

解法2（基于流和自动背压的文件复制）

为了克服上述问题，我们可以修改程序来自动调整磁盘的读写速度。这个机制就是背压。我们不需要做太多，只需将可读流导入可写流即可，nodejs 会负责背压的工作。

让我们将这个程序命名为streams_copy_efficient.js

/*
    a file copy with streams and piping - author: naren arya
*/

const stream = require('stream');
const fs = require('fs');

let filename = process.argv[2];
let destpath = process.argv[3];

const readabale = fs.createreadstream(filename);
const writeable = fs.createwritestream(destpath || "output");

fs.stat(filename, (err, stats) => {
    this.filesize = stats.size;
    this.counter = 1;
    this.filearray = filename.split('.');
    
    try {
        this.duplicate = destpath + "/" + this.filearray[0] + '_copy.' + this.filearray[1];
    } catch(e) {
        console.exception('file name is invalid! please pass the proper one');
    }
    
    process.stdout.write(`file: ${this.duplicate} is being created:`);
    
    readabale.on('data', (chunk) => {
        let percentagecopied = ((chunk.length * this.counter) / this.filesize) * 100;
        process.stdout.clearline();  // clear current text
        process.stdout.cursorto(0);
        process.stdout.write(`${math.round(percentagecopied)}%`);
        this.counter += 1;
    });
    
    readabale.pipe(writeable); // auto pilot on!
    
    // in case if we have an interruption while copying
    writeable.on('unpipe', (e) => {
        process.stdout.write("copy has failed!");
    });
    
});

在这个例子中，我们用一句代码替换了之前的数据块写入操作。

readabale.pipe(writeable); // auto pilot on!

这里的pipe就是所有魔法发生的原因。它控制了磁盘读写的速度以至于不会阻塞内存（ram）。

运行一下。

$ time node streams_copy_efficient.js cartoonmovie.mkv ~/documents/4kdemo.mkv

我们复制了同一个大文件（7.4 gb），让我们来看看内存利用率。

如何用Node.js编写内存效率高的应用程序

震惊！现在 node 程序仅仅占用了61.9 mib 的内存。如果你观察到读写速率的话：

disk read: 35.5 mib/s

disk write: 35.5 mib/s

在任意给定的时间内，因为背压的存在，读写速率得以保持一致。更让人惊喜的是，这段优化后的程序代码整整比之前的快了13秒。

12.13s user 28.50s system 22% cpu 3:03.35 total

由于 nodejs 流和管道，内存负载减少了98.68%，执行时间也减少了。这就是为什么管道是一个强大的存在。

61.9 mib 是由可读流创建的缓冲区大小。我们还可以使用可读流上的 read 方法为缓冲块分配自定义大小。

const readabale = fs.createreadstream(filename);
readable.read(no_of_bytes_size);

除了本地文件的复制以外，这个技术还可以用于优化许多 i/o 操作的问题：

处理从卡夫卡到数据库的数据流
处理来自文件系统的数据流，动态压缩并写入磁盘
更多……

结论

我写这篇文章的动机，主要是为了说明即使 nodejs 提供了很好的 api，我们也可能会一不留神就写出性能很差的代码。如果我们能更多地关注其内置的工具，我们便可以更好地优化程序的运行方式。

以上就是如何用node.js编写内存效率高的应用程序的详细内容，更多关于node.js的资料请关注其它相关文章！