pm2源码分析

Node Cluster

Nodejs的设计架构和nginx类似,是多进程单线程模型。由于Node单线程的限制,在多核服务器上,需启动多个进程才能最大化地利用服务器的性能。Node V0.8以后引入了cluster模块,它通过一个主进程(Master)管理多个子进程(Worker)的方式实现集群功能。 下面是一个简单的例子:

// master
var cluster = require('cluster');
var numCPUs = require('os').cpus().length;
 
if (cluster.isMaster) {
    console.log(numCPUs);
    for (var i = 0; i < numCPUs; i++) {
        var worker = cluster.fork();
    }
} else {
    require("./app.js");
}

// worker
var http = require('http');
http.createServer(function(req, res) {
    res.writeHead(200);
    res.end("hello world\n");
}).listen(8000);
通信

主进程和子进程之间通过IPC(Inter-Process Communication,进程间通信)实现进程间的通信。进程间通过send方法发送信息,通过监听message事件收取信息,这和cluster模块继承的EventEmitter对象是一致的:

// master
// 监听子进程的事件
worker.on('message', function(message) {
    console.log(message.from + ': ' + message.type + ' ' + message.data.number + ' = ' + message.data.result);
});
// 往子进程中发送消息
for(var wid in cluster.workers) {
    cluster.workers[wid].send({
        type: 'masterToWorker',
        from: 'master',
        data: {
            number: Math.floor(Math.random() * 50)
        }
    });
}

// worker
// 子进程监听事件 并发送回主进程
process.on('message', function(message) {
    if(message.type === 'masterToWorker') {
        process.send({
            type:'workerTomaster',
            from: 'Worker ' + process.pid,
            data: {}
        });
    }
});
负载均衡

通过例子可知,子进程是通过cluster.fork()方法实现的。linux的fork是系统提供的产生进程的方法,那么为什么需要借助cluster去实现集群,而不直接fork呢?这里的问题概括为两个:

  1. fork的进程监听统一端口,会报端口暂用的错误
  2. fork的进程之间由于没有负载均衡,容易把请求集中到一个或者几个进程上,从而造成惊群问题

对于问题1,cluster模块对net模块进行hack处理,如果是Master进程,那么监听端口;若是Worker进程,那么不会监听。
对于问题2,cluster自带了负载均衡功能。Master进程负责接收请求,然后根据调度算法转发给某一个子进程。默认的调度算法是round-robin,也就是把请求依次分给每个子进程,每个子进程处理的请求数是相同的。 可以通过环境变量修改调度算法:

env NODE_CLUSTER_SCHED_POLICY="none" node app.js

通过源码解析 Node.js 中 cluster 模块的主要功能实现 这边文章中有对这问题1的详细分析。

pm2

pm2基于cluster进行了封装,它能自动监控进程状态、重启进程、停止不稳定的进程(避免无限循环)等。利用pm2时,可以在不修改代码(如果自己实现,需要参考上面的例子进行修改)的情况下实现负载均衡集群。 具体的用法可以参见官网 或者 PM2 介绍

pm2源码

pm2的源码地址是 https://github.com/Unitech/pm2bin文件夹下的pm2文件,负责处理命令行输入;lib文件夹下的 Satan.jsGod.js 存放主要逻辑,前者要调用后者的方法。

源码结构

先来一张pm2的架构图:


框架图.png

pm2包括 Satan进程God Deamon守护进程进程间的远程调用rpccluster等几个概念:

  1. 如果不知道点西方文化,还真搞不清他的文件名为啥是 Satan 和 God:

撒旦(Satan),主要指《圣经》中的堕天使(也称堕天使撒旦),被看作与上帝的力量相对的邪恶、黑暗之源,是God的对立面。

Satan.js提供了程序的退出、杀死等方法,因此它是魔鬼;God.js 负责维护进程的正常运行,当有异常退出时能保证重启,所以它是上帝。作者这么命名,我只能说一句:oh my god。
God进程启动后一直运行,它相当于cluster中的Master进程,守护者worker进程的正常运行。

  1. rpc(Remote Procedure Call Protocol)是指远程过程调用,也就是说两台服务器A,B,一个应用部署在A服务器上,想要调用B服务器上应用提供的函数/方法,由于不在一个内存空间,不能直接调用,需要通过网络来表达调用的语义和传达调用的数据。同一机器不同进程间的方法调用也属于rpc的作用范畴。
    代码中采用了axon-rpcaxon 两个库,基本原理是提供服务的server绑定到一个域名和端口下,调用服务的client连接端口实现rpc连接。 后续新版本采用了pm2-axon-rpcpm2-axon两个库,绑定的方法也由端口变成.sock文件,因为采用port可能会和现有进程的端口产生冲突。
执行流程

程序的执行流程图如下:


执行流程.png

每次命令行的输入都会执行一次satan程序。如果God进程不在运行,首先需要启动God进程。然后根据指令,satan通过rpc调用God中对应的方法执行相应的逻辑。
pm2 start app.js -i 4为例,God在初次执行时会配置cluster,同时监听cluster中的事件:

// 配置cluster
cluster.setupMaster({
  exec : path.resolve(path.dirname(module.filename), 'ProcessContainer.js')
});

// 监听cluster事件
(function initEngine() {
  cluster.on('online', function(clu) {
    // worker进程在执行
    God.clusters_db[clu.pm_id].status = 'online';
  });

  // 命令行中 kill pid 会触发exit事件,process.kill不会触发exit
  cluster.on('exit', function(clu, code, signal) {
    // 重启进程 如果重启次数过于频繁直接标注为stopped
    God.clusters_db[clu.pm_id].status = 'starting';

    // 逻辑
    ...
  });
})();

在God启动后, 会建立Satan和God的rpc链接,然后调用prepare方法。prepare方法会调用cluster.fork,完成集群的启动:

God.prepare = function(opts, cb) {
  ...
  return execute(opts, cb);
};
function execute(env, cb) {
  ...
  var clu = cluster.fork(env);
  ...
  God.clusters_db[id] = clu;

  clu.once('online', function() {
    God.clusters_db[id].status = 'online';
    if (cb) return cb(null, clu);
    return true;
  });

  return clu;
}
执行结果

在linux中,通过 ps aux | grep node 可以看到运行中的node进程:

node进程.png

我一直在想为啥pm2没有master进程,后来读了源码才知道它的master进程就是Deamon进程,而且进程名字也做了修改。由于ps aux | grep ** 这个指令对大小写敏感,所以要大写的PM才能找到:
God Deamon进程.png

小技巧

分享几个在阅读pm2源码时,可能用到的小技巧:

  1. 如何调试源码
    在源码 package.json 文件中可以看到 bin 这个属性,通过npm安装后,就可以执行pm2这个指令。
    pm2的执行环境是node,如果想本地运行pm2源码,可以采用如下方式启动:
node  /pm2文件路径/bin/pm2  要启动的服务(app.js)  

根据上面的配置,实现pm2的启动。别忘了Webstorm这个前端利器。

  1. 多进程调试
    由于cluster是多进程模式,如果对子进程进行调试,需要在启动子进程时添加调试参数。在源码中fork()的地方添加如下参数,同时要注意端口冲突:
  fork('worker.js', [], {
      env: {},
      silent : false,
      execArgv: ['--debug-brk=13789']   // 子进程调试端口设置
  })
  1. 如何读源码
    pm2工程从13年开始已经有了很多个版本的演进。如果拿最新版本的源码去读,由于它包含了很多辅助功能,往往会被搞的头晕眼花。
    我选择从第一个稳定版本(tag 为0.4.10)入手分析其基本执行原理,这个版本的功能比较简单,也是程序结构最清晰的时候。
    可以通过 git taggit checkout *** 切换到特定版本,然后debug 运行调试分析。
总结

pm2也是采用cluster.fork实现的集群,这也就是所谓的万变不离其宗。由于God Deamon这个Master进程一直执行,可以保证对每一个子进程监听事件,从而进行相应的操作。

参考文章

解读Node.js的cluster模块
关于pm2的fork启动模式和cluster模式的区别
Node.js clustering made easy with PM2
TODO:浅谈pm2基本工作原理
通过源码解析 Node.js 中 cluster 模块的主要功能实现

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 157,298评论 4 360
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 66,701评论 1 290
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 107,078评论 0 237
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,687评论 0 202
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,018评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,410评论 1 211
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,729评论 2 310
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,412评论 0 194
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,124评论 1 239
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,379评论 2 242
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,903评论 1 257
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,268评论 2 251
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,894评论 3 233
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,014评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,770评论 0 192
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,435评论 2 269
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,312评论 2 260

推荐阅读更多精彩内容