自顶向下深入分析Netty(十)--PoolSubpage

PoolArena中由PoolSubpage双向链表分配内存小于PageSize(Netty默认8KB)的请求。在JEMalloc分配算法一文中介绍过,其中的结构如下图:

Subpage双向链表

Subpage又是由PoolChunk中的一个Page依照第一次分配请求的大小均等切分而成。可推知,小于PageSize的分配请求执行过程如下:

  1. 首次请求Arena分配,Arena中的双向链表为空,不能分配;传递给Chunk分配,Chunk找到一个空闲的Page,然后均等切分并加入到Arena链表中,最后分配满足要求的大小。
  2. 之后请求分配同样大小的内存,则直接在Arena中的PoolSubpage双向链表进行分配;如果链表中的节点都没有空间分配,则重复1步骤。

Netty使用一个long整型表示在PoolSubpage中分配的结果,其中低32位表示PoolSubpage所属的Page的标号,高32位表示均等切分小块的块号。实际中,Netty使用位图来表示均等小块的分配信息,其中位图有用long数组表示,所以对于高32位,其中的低6位用来表示64位即一个long的分配信息,其余位用来表示long数组的索引。可参见下图示意:

    |<--   24   -->| <--   6      --> | <--         32         --> |
    |  long数组偏移 |  long的二进制位偏移|       所属Chunk标号         |

明白了这些,开始分析源码实现。首先看成员变量:

    private final int memoryMapIdx; // 所属Page的标号
    private final int runOffset; // 在整个Chunk的偏移字节数
    private final int pageSize; // 页大小
    private final long[] bitmap; // 均等小块的分配信息

    boolean doNotDestroy; // 是否需要释放整个Page
    int elemSize; // 均等切分的大小
    private int maxNumElems; // 最多可以切分的小块数
    private int bitmapLength; // 位图信息的长度,long的个数
    private int nextAvail; // 下一个可分配的小块位置信息
    private int numAvail; // 可用的小块数
    
    final PoolChunk<T> chunk; // 所属的Chunk
    PoolSubpage<T> next; // arena双向链表的后继节点
    PoolSubpage<T> prev; // arena双向链表的前驱节点

构造方法有两个,其中一个用于构造双向链表的头节点Head,这是一个特殊节点,不进行分配,不列出代码。重点关注普通节点构造方法:

    PoolSubpage(PoolSubpage<T> head, PoolChunk<T> chunk, 
            int memoryMapIdx, int runOffset, int pageSize, int elemSize) {
        this.chunk = chunk;
        this.memoryMapIdx = memoryMapIdx;
        this.runOffset = runOffset;
        this.pageSize = pageSize;
        // 此处使用最大值,最小分配16B所需的long个数 
        bitmap = new long[pageSize >>> 10]; // pageSize / 16 / 64
        init(head, elemSize);
    }

    void init(PoolSubpage<T> head, int elemSize) {
        doNotDestroy = true;
        this.elemSize = elemSize;
        if (elemSize != 0) {
            maxNumElems = numAvail = pageSize / elemSize;
            nextAvail = 0;
            bitmapLength = maxNumElems >>> 6; // /64 表示long的个数
            if ((maxNumElems & 63) != 0) {
                bitmapLength ++; // subpage不是64倍,多需要一个long
            }

            for (int i = 0; i < bitmapLength; i ++) {
                bitmap[i] = 0;
            }
        }
        addToPool(head);
    }

需要注意的是:Netty使用了多个long整数的位数表示位图信息,这部分代码主要是在初始化位图结构。bitmap的最大长度为pageSize >>> 10表示最小分配16(1>>>4)B所需的long(1>>>6)个数,此处不使用pageSize/elemSize/64是因为考虑到复用。当一个PoolSubpage以32B均等切分,然后释放返回给Chunk,当Chunk再次被分配时,比如16B,此时只需调用init()方法即可而不再需要初始其他数据。
最后的addToPool()方法将该PoolSubpage加入到Arena的双向链表中,代码如下:

    private void addToPool(PoolSubpage<T> head) {
        assert prev == null && next == null;
        prev = head;
        next = head.next;
        next.prev = this;
        head.next = this;
    }    

这是经典的双向链表操作,只需注意每次新加入的节点都在Head节点之后。从链表中删除的操作是该操作的逆操作,实现代码如下:

    private void removeFromPool() {
        assert prev != null && next != null;
        prev.next = next;
        next.prev = prev;
        next = null;
        prev = null;
    }

接着分析关键的分配过程,代码如下:

    long allocate() {
        if (elemSize == 0) {
            return toHandle(0);
        }

        // 1.没有可分配均等小块 2.需要销毁(arena池中有其他可分配subpage)
        if (numAvail == 0 || !doNotDestroy) {
            return -1;
        }
        
        final int bitmapIdx = getNextAvail();
        int q = bitmapIdx >>> 6; // 高24为表示long数组索引
        int r = bitmapIdx & 63; // 低6位表示在long中实际分配的二进制位
        assert (bitmap[q] >>> r & 1) == 0;
        bitmap[q] |= 1L << r; // 将该信息加入到分配信息中

        if (-- numAvail == 0) {
            removeFromPool(); // 没有可分配的均等块则从arena双向链表删除
        }

        return toHandle(bitmapIdx); // 转换为64位分配信息
    }
    
    private long toHandle(int bitmapIdx) {
        return 0x4000000000000000L | (long) bitmapIdx << 32 | memoryMapIdx;
    }

其中较难理解的位运算部分,转化为bitSet则只是bitSet.set(i, true),Netty为了效率使用了long数组表示位图信息,所以稍显复杂。接着分析其中的getNextAvail()方法,该方法用来寻找在位图中可用的下一个位,代码如下:

    private int getNextAvail() {
        int nextAvail = this.nextAvail;
        if (nextAvail >= 0) {
            // 此时的nextAvail是上一个释放的均等小块
            this.nextAvail = -1;
            return nextAvail;
        }
        return findNextAvail();
    }
    
    private int findNextAvail() {
        final long[] bitmap = this.bitmap;
        final int bitmapLength = this.bitmapLength;
        for (int i = 0; i < bitmapLength; i ++) {
            long bits = bitmap[i];
            if (~bits != 0) {
                // 还有可用的均等小块
                return findNextAvail0(i, bits);
            }
        }
        return -1;
    }
    
    private int findNextAvail0(int i, long bits) {
        final int maxNumElems = this.maxNumElems;
        final int baseVal = i << 6;

        // long从低位开始表示分配信息,最低位表示第1块分配
        for (int j = 0; j < 64; j ++) {
            if ((bits & 1) == 0) {
                int val = baseVal | j;
                if (val < maxNumElems) {
                    return val;
                } else {
                    break;
                }
            }
            bits >>>= 1;
        }
        return -1;
    }

寻找可用分配块,即按序寻找long数组中,二进制为0的位即表示可用的小块序列。对应的释放方法free()代码如下:

    boolean free(PoolSubpage<T> head, int bitmapIdx) {
        if (elemSize == 0) {
            return true;
        }
        int q = bitmapIdx >>> 6; // long数组索引
        int r = bitmapIdx & 63; // long的二进制位偏移
        assert (bitmap[q] >>> r & 1) != 0;
        bitmap[q] ^= 1L << r; // 异或运算清除改位

        setNextAvail(bitmapIdx); // 该位置的小块可用于下次分配

        if (numAvail ++ == 0) {
            // 该page已分配了至少一个subpage,加入到arena双向链表
            addToPool(head); 
            return true;
        }

        if (numAvail != maxNumElems) {
            return true;
        } else {
            if (prev == next) {
                // prev==next==head 只有头结点和该节点
                return true;
            }

            // 从双向链表中释放,因为双向链表中至少有一个可用节点   
            doNotDestroy = false;
            removeFromPool();
            return false;
        }
    }

需要注意的是该方法的返回值,返回true表示该subpage在使用中,返回false表示该subPage不再由chunk使用可以释放。
至此,PoolSubpage分析完毕。
相关链接:

  1. JEMalloc分配算法
  2. PoolArena
  3. PoolChunk
  4. PoolChunkList
  5. PooThreadCache
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,015评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,262评论 1 292
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,727评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,986评论 0 205
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,363评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,610评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,871评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,582评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,297评论 1 242
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,551评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,053评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,385评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,035评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,079评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,841评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,648评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,550评论 2 270

推荐阅读更多精彩内容