Linux 程序设计1:深入浅出 Linux 共享内存

笔者最近在阅读Aerospike 论文时,发现了Aerospike是利用了Linux 共享内存机制来实现的存储索引快速重建的。这种方式比传统利用索引文件进行快速重启的方式大大提高了效率。(减少了磁盘 i/o,但是缺点是耗费内存,并且服务器一旦重启之后就只能冷重启了~~)而目前笔者工作之中维护的 NoSQL 数据库也是通过同样的机制实现存储索引的快速重建的,工欲善其事,必先利其器。所以笔者花时间调研了一下Linux共享内存的机制,希望对各位有所帮助~~

1.共享内存简介

说到共享内存,有过操作系统学习的童靴应该十分熟悉,往往聊到进程之间通信的4种方式时就能脱口而出(面试最常见的问题之一啊,哈哈哈~~):

  • 共享内存
  • 消息队列
  • 信号量
  • Socket

今天我们的主角是共享内存。如下图所示,所谓的共享内存,就是由多个进程的虚拟内存空间共同地映射到同一段物理内存空间,来实现内存的共享。

共享内存

共享内存通常是 ipc 之中效率最高的方式。Linux 之中实现共享内存的方式通常有如下几类:

  • mmap内存共享映射 (通常用于父子进程之间的内存共享,存在一定局限性,后文不表
  • System V的共享内存
  • POSIX共享内存

我们平时讨论主要的共享内存就是后面两者,但是其实无论是 System V 还是 POSIX 形式的共享内存,底层都是基于内存文件系统tmpfs实现的,二者的主要区别是在接口设计上,POSIX旨在提供所有系统都一致的接口,遵循了 Linux 系统之中一切皆为文件的理念。而System V只实现自己的一套内生的IPC逻辑,所以两者在使用上存在一些差异,由于 Aerospike 之中沿用了 System V 的机制,所以笔者后续的介绍也以 System V 的共享内存来展开。

共享内存虽然给了多进程通信的效率带来了质的飞跃,但是存在的问题也很明显:每一个参与使用共享内存的进程,都可以读取写入数据,这自然而然带来了内存空间等竞争的问题。虽然这里可以通过类似于管道的机制来单向通信来规避竞争的问题,但是额外引入的复杂度和内存占用同样也是问题)所以这里我们也可以反思共享内存真的是用来进程间通信的吗?笔者这里反而是这样认为的:通过通信来共享内存,而不是通过共享内存来通信

2.共享内存的设置与查看

使用共享内存,需要在系统层面进行一些设置。这章需要介绍一些共享内存相关的设置,在 Linux 系统之中和共享内存有关的文件有:

  /proc/sys/kernel/shmmni:限制整个系统可创建共享内存段个数。

  /proc/sys/kernel/shmall: 限制系统用在共享内存上的内存的页数。

  /proc/sys/kernel/shmmax:限制一个共享内存段的最大长度,字节为单位。

在使用共享内存时,我们可以修改上述文件来满足我们的设置需求。这里要注意的是,上述的配置文件是临时性的,重启之后就失效了。如果需要永久性设置这些参数,可以修改/etc/sysctl.conf来完成共享内存的设置。

共享内存本质上是对内存空间的使用,同时也是 ipc 的方式之一,所以我们可以使用对应的 Linux 命令来查看对应共享内存的使用:

free 可以显示系统的内存占用,共享内存的内存占用会归类在 shared,buffer/cache

free 命令查看共享内存

而更为详尽的共享内存的数据,可以通过ipcs -m的命令来进行展示。
共享内存的使用状况

这里简单介绍一下,共享内存各个列所代表的含义:

  • key:共享内存的key,后文会通过程序来解释 key 的含义。
  • shmil:共享内存的编号。
  • owner:创建的共享内存的用户。
  • perms:共享内存的权限,基于用户的。
  • bytes:共享内存的大小。
  • nattch:连接到共享内存的进程数。
  • status:共享内存的状态,显示“dest”表示共享内存段已经被删除,但是还有别的引用,共享内存是通过引用计数的方式来决定生命周期,一旦程序应用内存地址的计数为0,操作系统会回收对应的内存资源。

在这里如果需要清理对应的共享内存,可以借助命令ipcrm -m [shmid]来回收对应的内存空间。

3.共享内存的使用

int shmget(key_t key, size_t size, int shmflg);

int shmctl(int shmid, int cmd, struct shmid_ds *buf);

void *shmat(int shmid, const void *shmaddr, int shmflg);

int shmdt(const void *shmaddr);

extern key_t ftok (const char *__pathname, int __proj_id)

万事俱备,现在我们要来介绍一下如何在对应的代码之中使用共享内存,主要涉及上述五个函数,我们通过一个简单的 demo 来介绍这些函数:
int shmget(key_t key, size_t size, int shmflg)是申请共享内存的函数,这里需要理解的是key这个参数,它本身是一个 int 类型,这个 key_t参数是通过key_t ftok (const char *__pathname, int __proj_id)产生的,这里的pathname指的是一个固定的路径,proj_id则表示对应项目的 id。所以在一个操作系统内,如何让两个不相关(没有父子关系)的进程可以共享一个内存段呢?Bingo!就是通过这个 key_t类型让所有的进程都唯一映射到对应内存空间,这里就是通过对应的文件路径项目 id来产生对应的key
所以说,在一个使用到共享内存的程序之中,需要程序设定一个文件路径和一个项目的proj_id,来获取系统之中确定一段共享内存的key。这里需要注意的是ftok需要指定一个存在并且进程可以访问的pathname路径。因为 ftok使用的是指定文件的inode编号。所以,用了不同的文件名同样可能得到相同的key,因为可以通过硬链接的方式让不同的文件名指向相同 inode 编号文件。

    key_t shm_key;

    proj_id = 111;

    if ((shm_key = ftok("/home/happen", proj_id)) == -1) {
        exit(1);
    }

    shm_id = shmget(shm_key, sizeof(int), IPC_CREAT|IPC_EXCL|0600);
    if (shm_id < 0) {
        exit(1);
    }

ok,获取了共享内存之后,我们需要将这部分共享内存的地址映射到当前进程的内存空间之上,需要借助这个函数void *shmat(int shmid, const void *shmaddr, int shmflg)返回对应进程内存空间的指针,来对这部分内存进行操作。

   shm_p = (int *)shmat(shm_id, NULL, 0);
    if ((void *)shm_p == (void *)-1) {
        exit(1);
    }

这里可以用过shmflg来设定对应内存空间的读写权限,这里我们取的是0,代表对应的空间有读写权限。SHM_RDONLY可以设置为只读权限。之后我们就可以对对应的内存空间进行操作了:

    *shm_p = 100;

   
    if (shmdt(shm_p) < 0) {
        perror("shmdt()");
        exit(1);
    }

    if (shmctl(shm_id, IPC_RMID, NULL) < 0) {
        perror("shmctl()");
        exit(1);
    }

   return 0;

在使用完共享内存之后,需要使用int shmdt(const void *shmaddr)解除内存空间的映射,否则虚拟内存地址的泄漏,导致没有可用地址可用。shmdt仅仅只是解除共享内存空间和进程地址的映射,而想要删除一个共享内存需要使用int shmctl(int shmid, int cmd, struct shmid_ds *buf)函数进行处理同时也可以在命令行中使用第二小节的ipcrm命令来删除指定的共享内存。在这里必须强调的是,如果没有显式用shmctl或ipcrm命令删除的话,那么对应的共享内存将一直保留直到系统被关闭。

4.小结

到此为止,笔者展开聊了聊 Linux 共享内存的作用,并且对如何操作共享内存进行了介绍,同时希望大家能够在实际开发工作之后能够很好的掌握共享内存这个「利器」,让开发工作事倍功半~~

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,425评论 4 361
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,058评论 1 291
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,186评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,848评论 0 204
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,249评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,554评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,830评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,536评论 0 197
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,239评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,505评论 2 244
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,004评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,346评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,999评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,060评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,821评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,574评论 2 271
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,480评论 2 267

推荐阅读更多精彩内容

  • 一、Linux系统概述 不加引号可理解为宏,直接替换,单引号中特殊字符会被解释为普通字符,双引号中$,,'还是特殊...
    赤果_b4a7阅读 1,402评论 0 2
  • 一、温故而知新 1. 内存不够怎么办 内存简单分配策略的问题地址空间不隔离内存使用效率低程序运行的地址不确定 关于...
    SeanCST阅读 7,669评论 0 27
  • 印证那句话没有对比没有伤害,我感觉我受伤了。唉一切有定数顺其自然保持初心。
    顾问的顾阅读 154评论 1 0
  • 我是偶然被创造的一抹红 今生被搁置画里 没有晴空般的地图 风声在我看不见的远方溶入海底 我滴入你瞳孔的宇宙中央 无...
    何以为莲阅读 199评论 0 2
  • 我是意识,我是感知,我什么都不缺,我能创生一切,因为在我意识的眼中,什么东东都是响指间实现,我很无聊,我要刺激,我...
    一梵意一阅读 187评论 0 0