深入浅出Node.js_内存控制

内存控制是在海量请求长时间运行的前提下进行探讨的。
在Node中如何高效地使用内存?

V8 的垃圾回收机制与内存限制

V8 的内存限制

  • Node通过 JavaScript 使用内存的限制:64位系统下约为 1.4 GB,32位系统下约为 0.7 GB。
  • Node 基于 V8 构建,所以在 Node 中使用的 JavaScript 对象基本上都是通过 V8 自己的方式来进行管理和分配的。

V8 的对象分配

  • 在 V8 中,所有的 JavaScript 对象都是通过==堆==来分配的。
  • V8 限制堆内存,是基于垃圾回收机制与应用性能的考量(垃圾回收会引起 JS 线程暂停执行)。

查看进程的内存占用:process.memoryUsage()

$ node
> process.memoryUsage();
{ rss: 23175168,      # 进程的常驻内存部分
  heapTotal: 9682944, # 已申请到的堆内存
  heapUsed: 5283000,  # 堆内存当前使用量
  external: 11777 }
>

# 堆中的内存总量<进程的常驻内存用量
# 堆外内存:不是通过V8分配的内存。
# Buffer 对象不经过 V8 的内存分配机制。

# Node 的内存构成:通过 V8 分配的部分 + Node 自行分配的部分。
# 因此,受到 V8 的垃圾回收机制限制的主要是 V8 的堆内存。

查看系统的内存占用:os.totalmem() 和 freemem()

查看操作系统的内存使用情况:

$ node
> os.totalmem() # 返回系统总内存
17179869184
> os.freemem() # 返回系统闲置内存
4516331520  

Node 启动时可以调整内存使用量:

node --max-old-space-size=1700 test.js // 单位为MB,设置老生代内存空间最大值
node --max-new-space-size=1024 test.js // 单位为KB,设置新生代内存空间大小

V8 的垃圾回收机制

  • V8 的垃圾回收策略主要基于==分代式垃圾回收机制==。

  • V8 的内存分代:

    • V8 堆内存:新生代内存+老生代内存。
    • 新生代的内存空间中的对象:存活时间短。
    • 老生代的内存空间中的对象:存活时间长、常驻内存对象。
    V8引擎下的堆内存分配 64位系统 32位系统
    默认老生代内存最大值 1400 MB 700 MB
    默认新生代内存最大值 32 MB 16 MB
    V8 堆内存的最大值 1464 MB (1.4 GB) 732 MB(0.7 GB)
  • 新生代中的对象主要通过 Scavenge 算法进行垃圾回收,Scavenge 算法主要采用 Cheney 算法(采用复制的方式实现垃圾回收From-To)实现。

  • 老生代中的对象主要采用了Mark-Sweep(标记清除)和Marl-Compact(标记整理)相结合的方式进行垃圾回收。

    image

查看垃圾回收日志:--trach_gc

# 在 gc.log 文件中得到所有的垃圾回收信息。
node --trach_gc -e "var a = [];for (var i = 0; i < 1000000; i++) a.push(new Array(100));" > gc.log

查看性能分析数据:--prof

node --prof test.js

V8 提供了 linux-tick-processor 工具(Node路径:deps/v8/tools)用于统计日志信息。

# 将该工具的目录添加到环境变量 PATH 中,执行分析日志命令:
linux-tick-processor v8.log

高效使用内存

如何让垃圾回收机制更高效地工作?

作用域

  • JavaScript 中能形成作用域的方式:函数调用、with、全局作用域。

  • 标识符查找,变量只能向外访问,而不能向内访问;

  • 作用域链;

  • 变量的主动释放:delete 操作、将变量重新赋值。

    // 全局变量,进程退出才会释放
    global.foo = 'I am global object';
    console.log(global.foo); // => 'I am global object'
    
    // 1. delete 操作删除全局变量
    delete global.foo; 
    
    // 2. 重新赋值
    global.foo = undefined; // or null
    console.log(global.foo); // => 'undefined'
    

    💡 在 V8 中通过 delete 删除对象的属性有可能干扰 V8 的优化,所以通过赋值方式解除引用更好。

闭包:实现外部作用域访问内部作用域中变量的方法

var foo = function () {
    var bar = function () {
        var local = '局部变量';
        return function () { // 函数作为返回值,且该匿名函数可以访问local
            return local; // 内部作用域可以访问外部对象
        };
    };
    var baz = bar(); // bar() 函数返回的是一个匿名函数,且可以访问local
    console.log(baz());
}

在正常的 JavaScript 执行中,无法立即回收的内存:

  1. 闭包;
  2. 全局变量;

慎将内存当缓存

  • 在Node中,任何试图拿内存当缓存的行为都应当被限制。
  • Iru cache

缓存的解决方案

进程之间无法共享内存,使用大量缓存的解决方案:采用进程外的缓存,进程自身不存储状态。

解决方案:

关注队列状态

消费速度 < 生产速度时,将会形成堆积:

日志收集时,选择更高效的文件写入日志,而不是数据库写入日志。

深度的解决方案:1. 监控队列的长度;2.任意异步调用都应该包含超时机制。

Bagpipe 的超时模式和拒绝模式。

内存泄漏排查

Node内存泄漏检测工具:

  • v8-profiler。由Danny Coastes提供,它可以用于对V8堆内存抓取快照和对CPU进行分析,该项目已有3年没维护了
  • node-heapdump。这是Node核心贡献者之一Ben Noordhuis编写的模块,它允许对V8堆内存抓取快照,用于事后分析。
  • node-mtrace。由Jimb Esser提供,它使用了GCC的mtrace工具来分析堆的使用。
  • dtace。在Joyent的SmartOS系统上,有完善的dtrace工具用来分析内存泄漏。
  • node-memwatch。来自Mozilla的Lloyd Hilaiel贡献的模块,采用WTFPL许可发布。

大内存应用

Node 提供了 stream 模块用于处理大文件。

fs 模块的createReadStream()createWriteStream() 方法可以分别用于创建文件的可读流与可写流。

process 模块中的 stdin 和 stdout 分别是可读流和可写流的示例。

const fs = require('fs');

// 读取一个文件,然后将数据写入到另一个文件中
// 流处理的方式不会受到V8内存限制的影响。
var reader = fs.createReadStream('in.txt');
var writer = fs.createWriteStream('out.txt');
reader.on('data', function (chunk) {
    writer.write(chunk);
});
reader.on('end', function () {
    writer.end();
});

// 上述代码的简写方法:
var reader = fs.createReadStream('in.txt');
var writer = fs.createWriteStream('out.txt');
reader.pipe(writer);

💡

如果不需要进行字符串层面的操作,则不需要借助 V8 来处理,可以尝试进行纯粹的 ==Buffer== 操作,这不会受到 V8 堆内存的限制。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,847评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,208评论 1 292
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,587评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,942评论 0 205
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,332评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,587评论 1 218
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,853评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,568评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,273评论 1 242
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,542评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,033评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,373评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,031评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,073评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,830评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,628评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,537评论 2 269

推荐阅读更多精彩内容