Remind-You Part1. 多进程控制


原理说明

在Remind-You中,每个plugin都对应着一个进程。主进程在启动后,从配置文件中读取当前有多少个插件。并依次启动这些插件。后续plugin进程退出后,主进程都会重新生成plugin进程。

代码位置

可以在github上找到第一天的代码。https://github.com/bymzy/remind-you/tree/day1

文件结构

[root@bymzy remind-you]# tree
.
├── __init__.py
├── main.py
├── plugins
│   ├── conf.json
│   ├── dict_plugin.py
│   ├── dict_plugin.pyc
│   ├── __init__.py
│   └── __init__.pyc
├── scheduler.py
├── scheduler.pyc
└── setup.py


在第一天的工作中,比较重要的文件有,main.py, scheduler.py, dict_plugin.py以及conf.json。启动conf.json需要被拷贝到/etc/scheduler.py。

依赖的环境及库

使用python2.7运行。

  • mulitprocessing
    该库提供了方法,可以一某个函数为目标,生成一个进程执行。返回的进程对象,的start方法用来启动该进程;is_alive方法用来判断进程是否已经退出。
process = multiprocessing.Process(target=func, args=(arg))
process.start()
process.is_alive()
  • importlib
    在Remind-You中,需要支持动态的添加插件。使用importlib可以根据字符串导入lib。
module = importlib('dict_plugin.py')

主要代码

CONF_FILE = '/etc/scheduler.conf'

def parse_config(conf):
    with open(conf, 'r') as f:
        data = f.read()
        return json.loads(data)

def run_plugin(plugin):
    name = plugin.get('name')
    fileName = plugin.get('fileName')
    desc = plugin.get('desc')
    arg = plugin.get('args')

    module = importlib.import_module('plugins.' + fileName)
    process = multiprocessing.Process(target=module.run, args=(arg,))
    process.start()
    return process

def scheduler_loop():
    print 'main process pid: %u' % os.getpid()
    conf_dict = parse_config(CONF_FILE)
    process_list = []
    for plugin in conf_dict.get('plugins', []):
        process_list.append((plugin, run_plugin(plugin)))

    # monitor process 

    while True:
        to_add = []
        to_del = []
        for proc in process_list:
            if not proc[1].is_alive():
                proc[1].join()
                to_add.append((proc[0], run_plugin(proc[0])))
                to_del.append(proc)

        for proc in to_del:
            process_list.remove(proc)
            to_del = []

        for proc in to_add:
            process_list.append(proc)
            to_add = []

        time.sleep(2)

dict_plugin.py 代码示例

import time
import os
import requests

def run(args):
    print 'my pid is: %u ' % os.getpid()
    time.sleep(3)

plugin代码比较简单,只有一个run函数打印自己的pid,然后等待3s退出。这样做事为了模拟,主进程将plugin进程拉起的情况。

配置文件示例

{
    "plugins": [
        {   
            "name": "dict",
            "desc": "help you remember English words",
            "fileName": "dict_plugin",
            "args": "test"
        }   
    ]   
}

代码说明

  • 在main.py中,执行scheduler_loop()方法。这个方法首先从配置文件中读取所有的插件。当前只有一个dict插件,插件fileName字段描述有该插件代码所在的文件,插件代码中默认的run函数为插件的运行函数。
  • 使用importlib将插件import进主进程,然后使用multiprocessing.Process生成一个新的进程并调用Start启动。
  • 主进程当前页比较简单,循环的判断插件进程是否退出。如果退出,则继续生成一个插件进程。

最终执行效果如下

执行main.py后,插件进程定时退出,然后重新被拉起。

remind-you-day1.PNG
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,015评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,262评论 1 292
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,727评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,986评论 0 205
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,363评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,610评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,871评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,582评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,297评论 1 242
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,551评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,053评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,385评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,035评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,079评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,841评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,648评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,550评论 2 270

推荐阅读更多精彩内容