转:golang实现线程安全的map

转载自:https://halfrost.com/go_map_chapter_one/

https://halfrost.com/go_map_chapter_two/

Map 是一种很常见的数据结构,用于存储一些无序的键值对。在主流的编程语言中,默认就自带它的实现。C、C++ 中的 STL 就实现了 Map,JavaScript 中也有 Map,Java 中有 HashMap,Swift 和 Python 中有 Dictionary,Go 中有 Map,Objective-C 中有 NSDictionary、NSMutableDictionary。

上面这些 Map 都是线程安全的么?答案是否定的,并非全是线程安全的。那如何能实现一个线程安全的 Map 呢?想回答这个问题,需要先从如何实现一个 Map 说起。

一. 选用什么数据结构实现 Map ?

Map 是一个非常常用的数据结构,一个无序的 key/value 对的集合,其中 Map 所有的 key 都是不同的,然后通过给定的 key 可以在常数时间 O(1) 复杂度内查找、更新或删除对应的 value。

要想实现常数级的查找,应该用什么来实现呢?读者应该很快会想到哈希表。确实,Map 底层一般都是使用数组来实现,会借用哈希算法辅助。对于给定的 key,一般先进行 hash 操作,然后相对哈希表的长度取模,将 key 映射到指定的地方。

哈希算法有很多种,选哪一种更加高效呢?

1. 哈希函数

MD5 和 SHA1 可以说是目前应用最广泛的 Hash 算法,而它们都是以 MD4 为基础设计的。

MD4(RFC 1320) 是 MIT 的Ronald L. Rivest 在 1990 年设计的,MD 是 Message Digest(消息摘要) 的缩写。它适用在32位字长的处理器上用高速软件实现——它是基于 32位操作数的位操作来实现的。

MD5(RFC 1321) 是 Rivest 于1991年对 MD4 的改进版本。它对输入仍以512位分组,其输出是4个32位字的级联,与 MD4 相同。MD5 比 MD4 来得复杂,并且速度较之要慢一点,但更安全,在抗分析和抗差分方面表现更好。

SHA1 是由 NIST NSA 设计为同 DSA 一起使用的,它对长度小于264的输入,产生长度为160bit 的散列值,因此抗穷举 (brute-force)

性更好。SHA-1 设计时基于和 MD4 相同原理,并且模仿了该算法。

常用的 hash 函数有 SHA-1,SHA-256,SHA-512,MD5 。这些都是经典的 hash 算法。在现代化生产中,还会用到现代的 hash 算法。下面列举几个,进行性能对比,最后再选其中一个源码分析一下实现过程。

(1) Jenkins Hash 和 SpookyHash

1997年Bob Jenkins在《 Dr. Dobbs Journal》杂志上发表了一片关于散列函数的文章《A hash function for hash Table lookup》。这篇文章中,Bob 广泛收录了很多已有的散列函数,这其中也包括了他自己所谓的“lookup2”。随后在2006年,Bob 发布了lookup3。lookup3 即为 Jenkins Hash。更多有关 Bob’s 散列函数的内容请参阅维基百科:Jenkins hash function。memcached的 hash 算法,支持两种算法:jenkins, murmur3,默认是 jenkins。

2011年 Bob Jenkins 发布了他自己的一个新散列函数

SpookyHash(这样命名是因为它是在万圣节发布的)。它们都拥有2倍于 MurmurHash 的速度,但他们都只使用了64位数学函数而没有32位版本,SpookyHash 给出128位输出。

(2) MurmurHash

MurmurHash 是一种非加密哈希函数,适用于一般的哈希检索操作。

Austin Appleby 在2008年发布了一个新的散列函数——MurmurHash。其最新版本大约是 lookup3 速度的2倍(大约为1 byte/cycle),它有32位和64位两个版本。32位版本只使用32位数学函数并给出一个32位的哈希值,而64位版本使用了64位的数学函数,并给出64位哈希值。根据Austin的分析,MurmurHash具有优异的性能,虽然 Bob Jenkins 在《Dr. Dobbs article》杂志上声称“我预测 MurmurHash 比起lookup3要弱,但是我不知道具体值,因为我还没测试过它”。MurmurHash能够迅速走红得益于其出色的速度和统计特性。当前的版本是MurmurHash3,Redis、Memcached、Cassandra、HBase、Lucene都在使用它。

下面是用 C 实现 MurmurHash 的版本:

C

uint32_tmurmur3_32(constchar*key,uint32_tlen,uint32_tseed){

staticconstuint32_tc1=0xcc9e2d51;

staticconstuint32_tc2=0x1b873593;

staticconstuint32_tr1=15;

staticconstuint32_tr2=13;

staticconstuint32_tm=5;

staticconstuint32_tn=0xe6546b64;

uint32_thash=seed;

constintnblocks=len/4;

constuint32_t*blocks=(constuint32_t*)key;

inti;

for(i=0;i

uint32_tk=blocks[i];

k*=c1;

k=(k<>(32-r1));

k*=c2;

hash^=k;

hash=((hash<>(32-r2)))*m+n;

}

constuint8_t*tail=(constuint8_t*)(key+nblocks*4);

uint32_tk1=0;

switch(len&3){

case3:

k1^=tail[2]<<16;

case2:

k1^=tail[1]<<8;

case1:

k1^=tail[0];

k1*=c1;

k1=(k1<>(32-r1));

k1*=c2;

hash^=k1;

}

hash^=len;

hash^=(hash>>16);

hash*=0x85ebca6b;

hash^=(hash>>13);

hash*=0xc2b2ae35;

hash^=(hash>>16);

returnhash;

}

(3) CityHash 和 FramHash

这两种算法都是 Google 发布的字符串算法。

CityHash是2011年 Google 发布的字符串散列算法,和 murmurhash 一样,属于非加密型 hash 算法。CityHash 算法的开发是受到了 MurmurHash 的启发。其主要优点是大部分步骤包含了至少两步独立的数学运算。现代 CPU 通常能从这种代码获得最佳性能。CityHash 也有其缺点:代码较同类流行算法复杂。Google 希望为速度而不是为了简单而优化,因此没有照顾较短输入的特例。Google发布的有两种算法:cityhash64 与 cityhash128。它们分别根据字串计算 64 和 128 位的散列值。这些算法不适用于加密,但适合用在散列表等处。CityHash 的速度取决于CRC32 指令,目前为SSE 4.2(Intel Nehalem及以后版本)。

相比 Murmurhash 支持32、64、128bit, Cityhash 支持64、128、256bit 。

2014年 Google 又发布了FarmHash,一个新的用于字符串的哈希函数系列。FarmHash 从 CityHash 继承了许多技巧和技术,是它的后继。FarmHash 有多个目标,声称从多个方面改进了 CityHash。与 CityHash 相比,FarmHash 的另一项改进是在多个特定于平台的实现之上提供了一个接口。这样,当开发人员只是想要一个用于哈希表的、快速健壮的哈希函数,而不需要在每个平台上都一样时,FarmHash 也能满足要求。目前,FarmHash 只包含在32、64和128位平台上用于字节数组的哈希函数。未来开发计划包含了对整数、元组和其它数据的支持。

(4) xxHash

xxHash 是由 Yann Collet 创建的非加密哈希函数。它最初用于 LZ4 压缩算法,作为最终的错误检查签名的。该 hash 算法的速度接近于 RAM 的极限。并给出了32位和64位的两个版本。现在它被广泛使用在PrestoDBRocksDBMySQLArangoDBPGroongaSpark这些数据库中,还用在了Cocos2DDolphinCxbx-reloaded这些游戏框架中,

下面这有一个性能对比的实验。测试环境是Open-Source SMHasher program by Austin Appleby,它是在 Windows 7 上通过 Visual C 编译出来的,并且它只有唯一一个线程。CPU 内核是 Core 2 Duo @3.0GHz。

上表里面的 hash 函数并不是所有的 hash 函数,只列举了一些常见的算法。第二栏是速度的对比,可以看出来速度最快的是 xxHash 。第三栏是哈希的质量,哈希质量最高的有5个,全是5星,xxHash、MurmurHash 3a、CityHash64、MD5-32、SHA1-32 。从表里的数据看,哈希质量最高,速度最快的还是 xxHash。

(4) memhash

这个哈希算法笔者没有在网上找到很明确的作者信息。只在 Google 的 Go 的文档上有这么几行注释,说明了它的灵感来源:

Go

// Hashing algorithm inspired by

//  xxhash: https://code.google.com/p/xxhash/

// cityhash: https://code.google.com/p/cityhash/

它说 memhash 的灵感来源于 xxhash 和 cityhash。那么接下来就来看看 memhash 是怎么对字符串进行哈希的。

Go

const(

// Constants for multiplication: four random odd 32-bit numbers.

m1=3168982561

m2=3339683297

m3=832293441

m4=2336365089

)

func memhash(p unsafe.Pointer, seed, s uintptr) uintptr{

ifGOARCH=="386"&&GOOS!="nacl"&&useAeshash{

returnaeshash(p,seed,s)

}

h:=uint32(seed+s*hashkey[0])

tail:

switch{

cases==0:

cases<4:

h^=uint32(*(*byte)(p))

h^=uint32(*(*byte)(add(p,s>>1)))<<8

h^=uint32(*(*byte)(add(p,s-1)))<<16

h=rotl_15(h*m1)*m2

cases==4:

h^=readUnaligned32(p)

h=rotl_15(h*m1)*m2

cases<=8:

h^=readUnaligned32(p)

h=rotl_15(h*m1)*m2

h^=readUnaligned32(add(p,s-4))

h=rotl_15(h*m1)*m2

cases<=16:

h^=readUnaligned32(p)

h=rotl_15(h*m1)*m2

h^=readUnaligned32(add(p,4))

h=rotl_15(h*m1)*m2

h^=readUnaligned32(add(p,s-8))

h=rotl_15(h*m1)*m2

h^=readUnaligned32(add(p,s-4))

h=rotl_15(h*m1)*m2

default:

v1:=h

v2:=uint32(seed*hashkey[1])

v3:=uint32(seed*hashkey[2])

v4:=uint32(seed*hashkey[3])

fors>=16{

v1^=readUnaligned32(p)

v1=rotl_15(v1*m1)*m2

p=add(p,4)

v2^=readUnaligned32(p)

v2=rotl_15(v2*m2)*m3

p=add(p,4)

v3^=readUnaligned32(p)

v3=rotl_15(v3*m3)*m4

p=add(p,4)

v4^=readUnaligned32(p)

v4=rotl_15(v4*m4)*m1

p=add(p,4)

s-=16

}

h=v1^v2^v3^v4

gototail

}

h^=h>>17

h*=m3

h^=h>>13

h*=m4

h^=h>>16

returnuintptr(h)

}

// Note: in order to get the compiler to issue rotl instructions, we

// need to constant fold the shift amount by hand.

//TODO:convince the compiler to issue rotl instructions after inlining.

func rotl_15(x uint32) uint32{

return(x<<15)|(x>>(32-15))

}

m1、m2、m3、m4 是4个随机选的奇数,作为哈希的乘法因子。

Go

// used in hash{32,64}.go to seed the hash function

varhashkey[4]uintptr

func alginit(){

// Install aes hash algorithm if we have the instructions we need

if(GOARCH=="386"||GOARCH=="amd64")&&

GOOS!="nacl"&&

cpuid_ecx&(1<<25)!=0&&// aes (aesenc)

cpuid_ecx&(1<<9)!=0&&// sse3 (pshufb)

cpuid_ecx&(1<<19)!=0{// sse4.1 (pinsr{d,q})

useAeshash=true

algarray[alg_MEM32].hash=aeshash32

algarray[alg_MEM64].hash=aeshash64

algarray[alg_STRING].hash=aeshashstr

// Initialize with random data so hash collisions will be hard to engineer.

getRandomData(aeskeysched[:])

return

}

getRandomData((*[len(hashkey)*sys.PtrSize]byte)(unsafe.Pointer(&hashkey))[:])

hashkey[0]|=1// make sure these numbers are odd

hashkey[1]|=1

hashkey[2]|=1

hashkey[3]|=1

}

在这个初始化的函数中,初始化了2个数组,数组里面装的都是随机的 hashkey。在 386、 amd64、非 nacl 的平台上,会用 aeshash 。这里会把随机的 key 生成好,存入到 aeskeysched 数组中。同理,hashkey 数组里面也会随机好4个数字。最后都按位与了一个1,就是为了保证生成出来的随机数都是奇数。

接下来举个例子,来看看 memhash 究竟是如何计算哈希值的。

Go

func main(){

r:=[8]byte{'h','a','l','f','r','o','s','t'}

pp:=memhashpp(unsafe.Pointer(&r),3,7)

fmt.Println(pp)

}

为了简单起见,这里用笔者的名字为例算出哈希值,种子简单一点设置成3。

第一步计算 h 的值。

Go

h:=uint32(seed+s*hashkey[0])

这里假设 hashkey[0] = 1,那么 h 的值为 3 + 7 * 1 = 10 。由于 s < 8,那么就会进行以下的处理:

Go

cases<=8:

h^=readUnaligned32(p)

h=rotl_15(h*m1)*m2

h^=readUnaligned32(add(p,s-4))

h=rotl_15(h*m1)*m2

readUnaligned32()函数会把传入的 unsafe.Pointer 指针进行2次转换,先转成 *uint32 类型,然后再转成 *(*uint32) 类型。

接着进行异或操作:

接着第二步 h * m1 = 1718378850 * 3168982561 = 3185867170

由于是32位的乘法,最终结果是64位的,高32位溢出,直接舍弃。

乘出来的结果当做 rotl_15() 入参。

Go

func rotl_15(x uint32) uint32{

return(x<<15)|(x>>(32-15))

}

这个函数里面对入参进行了两次位移操作。

最后将两次位移的结果进行逻辑或运算:

接着再进行一次 readUnaligned32() 转换:

转换完再进行一次异或。此时 h = 2615762644。

然后还要再进行一次 rotl_15() 变换。这里就不画图演示了。变换完成以后 h = 2932930721。

最后执行 hash 的最后一步:

Go

h^=h>>17

h*=m3

h^=h>>13

h*=m4

h^=h>>16

先右移17位,然后异或,再乘以m3,再右移13位,再异或,再乘以m4,再右移16位,最后再异或。

通过这样一系列的操作,最后就能生成出 hash 值了。最后 h = 1870717864。感兴趣的同学可以算一算。

(5)AES Hash

在上面分析 Go 的 hash 算法的时候,我们可以看到它对 CPU 是否支持 AES 指令集进行了判断,当 CPU 支持 AES 指令集的时候,它会选用 AES Hash 算法,当 CPU 不支持 AES 指令集的时候,换成 memhash 算法。

AES 指令集全称是高级加密标准指令集(或称英特尔高级加密标准新指令,简称AES-NI)是一个x86指令集架构的扩展,用于IntelAMD微处理器

利用 AES 实现 Hash 算法性能会很优秀,因为它能提供硬件加速。

具体代码实现如下,汇编程序,注释见下面程序中:

C

// aes hash 算法通过 AES 硬件指令集实现

TEXT runtime·aeshash(SB),NOSPLIT,$0-32

MOVQ    p+0(FP),AX// 把ptr移动到data数据段中

MOVQ    s+16(FP),CX// 长度

LEAQ    ret+24(FP),DX

JMP runtime·aeshashbody(SB)

TEXT runtime·aeshashstr(SB),NOSPLIT,$0-24

MOVQ    p+0(FP),AX// 把ptr移动到字符串的结构体中

MOVQ8(AX),CX// 字符串长度

MOVQ(AX),AX// 字符串的数据

LEAQ    ret+16(FP),DX

JMP runtime·aeshashbody(SB)

最终的 hash 的实现都在 aeshashbody 中:

C

// AX: 数据

// CX: 长度

// DX: 返回的地址

TEXT runtime·aeshashbody(SB),NOSPLIT,$0-0

// SSE 寄存器中装填入我们的随机数种子

MOVQ    h+8(FP),X0// 每个table中hash种子有64 位

PINSRW  $4,CX,X0// 长度占16位

PSHUFHW $0,X0,X0// 压缩高位字乱序,重复长度4次

MOVO    X0,X1// 保存加密前的种子

PXOR    runtime·aeskeysched(SB),X0// 对每一个处理中的种子进行逻辑异或

AESENC  X0,X0// 加密种子

CMPQ    CX,$16

    JB  aes0to15

    JE  aes16

CMPQ    CX,$32

    JBE aes17to32

CMPQ    CX,$64

    JBE aes33to64

CMPQ    CX,$128

    JBE aes65to128

    JMP aes129plus

// aes 从 0 - 15

aes0to15:

TESTQ  CX,CX

    JE  aes0

ADDQ    $16,AX

TESTW  $0xff0,AX

    JE  endofpage

//当前加载的16位字节的地址不会越过一个页面边界,所以我们可以直接加载它。

MOVOU-16(AX),X1

ADDQ    CX,CX

MOVQ    $masks<>(SB),AX

PAND(AX)(CX*8), X1

final1: 

PXOR    X0, X1  // 异或数据和种子

AESENC  X1, X1  // 连续加密3次

AESENC  X1, X1

    AESENC  X1, X1

    MOVQ    X1, (DX)

    RET

endofpage: 

// 地址结尾是1111xxxx。 这样就可能超过一个页面边界,所以在加载完最后一个字节后停止加载。然后使用pshufb将字节向下移动。

MOVOU-32(AX)(CX*1), X1

    ADDQ    CX, CX

    MOVQ    $shifts<>(SB), AX

PSHUFB(AX)(CX*8), X1

    JMP final1

aes0: 

// 返回输入的并且已经加密过的种子

AESENC  X0, X0

    MOVQ    X0, (DX)

    RET

aes16: 

MOVOU(AX), X1

    JMP final1

aes17to32: 

// 开始处理第二个起始种子

PXOR    runtime·aeskeysched+16(SB), X1

    AESENC  X1, X1

// 加载要被哈希算法处理的数据

MOVOU(AX), X2

    MOVOU  -16(AX)(CX*1), X3

// 异或种子

PXOR    X0, X2

    PXOR    X1, X3

// 连续加密3次

AESENC  X2, X2

    AESENC  X3, X3

    AESENC  X2, X2

    AESENC  X3, X3

    AESENC  X2, X2

    AESENC  X3, X3

// 拼接并生成结果

PXOR    X3, X2

    MOVQ    X2, (DX)

    RET

aes33to64: 

// 处理第三个以上的起始种子

MOVO    X1, X2

    MOVO    X1, X3

    PXOR    runtime·aeskeysched+16(SB), X1

    PXOR    runtime·aeskeysched+32(SB), X2

    PXOR    runtime·aeskeysched+48(SB), X3

    AESENC  X1, X1

    AESENC  X2, X2

    AESENC  X3, X3

MOVOU(AX), X4

    MOVOU  16(AX), X5

    MOVOU  -32(AX)(CX*1), X6

    MOVOU  -16(AX)(CX*1), X7

    PXOR    X0, X4

    PXOR    X1, X5

    PXOR    X2, X6

    PXOR    X3, X7

    AESENC  X4, X4

    AESENC  X5, X5

    AESENC  X6, X6

    AESENC  X7, X7

    AESENC  X4, X4

    AESENC  X5, X5

    AESENC  X6, X6

    AESENC  X7, X7

    AESENC  X4, X4

    AESENC  X5, X5

    AESENC  X6, X6

    AESENC  X7, X7

    PXOR    X6, X4

    PXOR    X7, X5

    PXOR    X5, X4

    MOVQ    X4, (DX)

    RET

aes65to128: 

// 处理第七个以上的起始种子

MOVO    X1, X2

    MOVO    X1, X3

    MOVO    X1, X4

    MOVO    X1, X5

    MOVO    X1, X6

    MOVO    X1, X7

    PXOR    runtime·aeskeysched+16(SB), X1

    PXOR    runtime·aeskeysched+32(SB), X2

    PXOR    runtime·aeskeysched+48(SB), X3

    PXOR    runtime·aeskeysched+64(SB), X4

    PXOR    runtime·aeskeysched+80(SB), X5

    PXOR    runtime·aeskeysched+96(SB), X6

    PXOR    runtime·aeskeysched+112(SB), X7

    AESENC  X1, X1

    AESENC  X2, X2

    AESENC  X3, X3

    AESENC  X4, X4

    AESENC  X5, X5

    AESENC  X6, X6

    AESENC  X7, X7

// 加载数据

MOVOU(AX), X8

    MOVOU  16(AX), X9

    MOVOU  32(AX), X10

    MOVOU  48(AX), X11

    MOVOU  -64(AX)(CX*1), X12

    MOVOU  -48(AX)(CX*1), X13

    MOVOU  -32(AX)(CX*1), X14

    MOVOU  -16(AX)(CX*1), X15

// 异或种子

PXOR    X0, X8

    PXOR    X1, X9

    PXOR    X2, X10

    PXOR    X3, X11

    PXOR    X4, X12

    PXOR    X5, X13

    PXOR    X6, X14

    PXOR    X7, X15

// 连续加密3次

AESENC  X8, X8

    AESENC  X9, X9

    AESENC  X10, X10

    AESENC  X11, X11

    AESENC  X12, X12

    AESENC  X13, X13

    AESENC  X14, X14

    AESENC  X15, X15

    AESENC  X8, X8

    AESENC  X9, X9

    AESENC  X10, X10

    AESENC  X11, X11

    AESENC  X12, X12

    AESENC  X13, X13

    AESENC  X14, X14

    AESENC  X15, X15

    AESENC  X8, X8

    AESENC  X9, X9

    AESENC  X10, X10

    AESENC  X11, X11

    AESENC  X12, X12

    AESENC  X13, X13

    AESENC  X14, X14

    AESENC  X15, X15

// 拼装结果

PXOR    X12, X8

    PXOR    X13, X9

    PXOR    X14, X10

    PXOR    X15, X11

    PXOR    X10, X8

    PXOR    X11, X9

    PXOR    X9, X8

    MOVQ    X8, (DX)

    RET

aes129plus: 

// 处理第七个以上的起始种子

MOVO    X1, X2

    MOVO    X1, X3

    MOVO    X1, X4

    MOVO    X1, X5

    MOVO    X1, X6

    MOVO    X1, X7

    PXOR    runtime·aeskeysched+16(SB), X1

    PXOR    runtime·aeskeysched+32(SB), X2

    PXOR    runtime·aeskeysched+48(SB), X3

    PXOR    runtime·aeskeysched+64(SB), X4

    PXOR    runtime·aeskeysched+80(SB), X5

    PXOR    runtime·aeskeysched+96(SB), X6

    PXOR    runtime·aeskeysched+112(SB), X7

    AESENC  X1, X1

    AESENC  X2, X2

    AESENC  X3, X3

    AESENC  X4, X4

    AESENC  X5, X5

    AESENC  X6, X6

    AESENC  X7, X7

// 逆序开始,从最后的block开始处理,因为可能会出现重叠的情况

MOVOU-128(AX)(CX*1), X8

    MOVOU  -112(AX)(CX*1), X9

    MOVOU  -96(AX)(CX*1), X10

    MOVOU  -80(AX)(CX*1), X11

    MOVOU  -64(AX)(CX*1), X12

    MOVOU  -48(AX)(CX*1), X13

    MOVOU  -32(AX)(CX*1), X14

    MOVOU  -16(AX)(CX*1), X15

// 异或种子

PXOR    X0, X8

    PXOR    X1, X9

    PXOR    X2, X10

    PXOR    X3, X11

    PXOR    X4, X12

    PXOR    X5, X13

    PXOR    X6, X14

    PXOR    X7, X15

// 计算剩余128字节块的数量

    DECQ    CX

    SHRQ    $7, CX

aesloop: 

// 加密状态

AESENC  X8, X8

    AESENC  X9, X9

    AESENC  X10, X10

    AESENC  X11, X11

    AESENC  X12, X12

    AESENC  X13, X13

    AESENC  X14, X14

    AESENC  X15, X15

// 在同一个block块中加密状态,进行异或运算

MOVOU(AX), X0

    MOVOU  16(AX), X1

    MOVOU  32(AX), X2

    MOVOU  48(AX), X3

    AESENC  X0, X8

    AESENC  X1, X9

    AESENC  X2, X10

    AESENC  X3, X11

    MOVOU  64(AX), X4

    MOVOU  80(AX), X5

    MOVOU  96(AX), X6

    MOVOU  112(AX), X7

    AESENC  X4, X12

    AESENC  X5, X13

    AESENC  X6, X14

    AESENC  X7, X15

    ADDQ    $128, AX

    DECQ    CX

    JNE aesloop

    // 最后一步,进行3次以上的加密

AESENC  X8, X8

    AESENC  X9, X9

    AESENC  X10, X10

    AESENC  X11, X11

    AESENC  X12, X12

    AESENC  X13, X13

    AESENC  X14, X14

    AESENC  X15, X15

    AESENC  X8, X8

    AESENC  X9, X9

    AESENC  X10, X10

    AESENC  X11, X11

    AESENC  X12, X12

    AESENC  X13, X13

    AESENC  X14, X14

    AESENC  X15, X15

    AESENC  X8, X8

    AESENC  X9, X9

    AESENC  X10, X10

    AESENC  X11, X11

    AESENC  X12, X12

    AESENC  X13, X13

    AESENC  X14, X14

    AESENC  X15, X15

    PXOR    X12, X8

    PXOR    X13, X9

    PXOR    X14, X10

    PXOR    X15, X11

    PXOR    X10, X8

    PXOR    X11, X9

    PXOR    X9, X8

    MOVQ    X8, (DX)

    RET

2. 哈希冲突处理

(1)链表数组法

链表数组法比较简单,每个键值对表长取模,如果结果相同,用链表的方式依次往后插入。

假设待插入的键值集合是{ 2,3,5,7,11,13,19},表长 MOD 8。假设哈希函数在[0,9)上均匀分布。如上图。

接下来重点进行性能分析:

查找键值 k,假设键值 k 不在哈希表中,h(k) 在 [0,M) 中均匀分布,即 P(h(k) = i) = 1/M 。令 Xi 为哈希表 ht[ i ] 中包含键值的个数。如果 h(k) = i ,则不成功查找 k 的键值比较次数是 Xi,于是:

成功查找的分析稍微复杂一点。要考虑添加哈希表的次序,不考虑有相同键值的情况,假设 K = {k1,k2,……kn},并且假设从空哈希表开始按照这个次序添加到哈希表中。引入随机变量,如果 h(ki) = h(kj),那么 Xij = 1;如果 h(ki) != h(kj),那么 Xij = 0 。

由于之前的假设哈希表是均匀分布的,所以 P(Xij = i) = E(Xij) = 1/M ,这里的 E(X) 表示随机变量 X 的数学期望。再假设每次添加键值的时候都是把添加在链表末端。令 Ci 为查找 Ki 所需的键值比较次数,由于不能事先确定查找 Ki 的概率,所以假定查找不同键值的概率都是相同的,都是 1/n ,则有:

由此我们可以看出,哈希表的性能和表中元素的多少关系不大,而和填充因子 α 有关。如果哈希表长和哈希表中元素个数成正比,则哈希表查找的复杂度为 O(1) 。

综上所述,链表数组的成功与不成功的平均键值比较次数如下:

(2)开放地址法 —— 线性探测

线性探测的规则是 hi = ( h(k) + i ) MOD M。举个例子,i = 1,M = 9。

这种处理冲突的方法,一旦发生冲突,就把位置往后加1,直到找到一个空的位置。

举例如下,假设待插入的键值集合是{2,3,5,7,11,13,19},线性探测的发生冲突以后添加的值为1,那么最终结果如下:

线性探测哈希表的性能分析比较复杂,这里就仅给出结果。

(3)开放地址法 —— 平方探测

线性探测的规则是 h0 = h(k) ,hi = ( h0 + i * i ) MOD M。

举例如下,假设待插入的键值集合是{2,3,5,7,11,13,20},平方探测的发生冲突以后添加的值为查找次数的平方,那么最终结果如下:

平方探测在线性探测的基础上,加了一个二次曲线。当发生冲突以后,不再是加一个线性的参数,而是加上探测次数的平方。

平方探测有一个需要注意的是,M的大小有讲究。如果M不是奇素数,那么就可能出现下面这样的问题,即使哈希表里面还有空的位置,但是却有元素找不到要插入的位置。

举例,假设 M = 10,待插入的键值集合是{0,1,4,5,6,9,10},当前面6个键值插入哈希表中以后,10就再也无法插入了。

所以在平方探测中,存在下面这则规律:

如果 M 为奇素数,则下面的 ⌈M / 2⌉ 位置 h0,h1,h2 …… h⌊M/2⌋ 互不相同。其中,hi = (h0 + i * i ) MOD M。

这面这则规律可以用反证法证明。假设 hi = hj,i > j;0<=i,j<= ⌊M/2⌋,则 h0 + i* i = ( h0 + j * j ) MOD M,从而 M 可以整除 ( i + j )( i - j )。由于 M 为素数,并且 0 < i + j,i - j < M,当且仅当 i = j 的时候才能满足。

上述规则也就说明了一点,只要 M 为奇素数,平方探测至少可以遍历哈希表一般的位置。所以只要哈希表的填充因子 α <= 1 / 2 ,平方探测总能找到可插入的位置。

上述举的例子,之所以键值10无法插入,原因也因为 α > 1 / 2了,所以不能保证有可插入的位置了。

(4)开放地址法 —— 双哈希探测

双哈希探测是为了解决聚集的现象。无论是线性探测还是平方探测,如果 h(k1) 和 h(k2) 相邻,则它们的探测序列也都是相邻的,这就是所谓的聚集现象。为了避免这种现象,所以引入了双哈希函数 h2,使得两次探测之间的距离为 h2(k)。所以探测序列为 h0 = h1(k),hi = ( h0 + i * h2(k) ) MOD M 。实验表明,双哈希探测的性能类似于随机探测。

关于双哈希探测和平方探测的平均查找长度比线性探测更加困难。所以引入随机探测的概念来近似这两种探测。随机探测是指探测序列 { hi } 在区间 [0,M]中等概率独立随机选取,这样 P(hi = j) = 1/M 。

假设探测序列为 h0,h1,……,hi。在哈希表的 hi 位置为空,在 h0,h1,……,hi-1 的位置上哈希表不是空,此次查找的键值比较次数为 i。令随机变量 X 为一次不成功查找所需的键值比较次数。由于哈希表的填充因子为 α,所以在一个位置上哈希表为空值的概率为 1 - α ,为非空值的概率为 α,所以 P( X = i ) = α^i * ( 1 - α ) 。

在概率论中,上述的分布叫几何分布。

假定哈希表元素的添加顺序为 {k1,k2,…… ,kn},令 Xi 为当哈希表只包含 {k1,k2,…… ,ki} 时候一次不成功查找的键值比较次数,注意,这个时候哈希表的填充因子为 i/M ,则查找 k(i+1) 的键值次数为 Yi = 1 + Xi。假定查找任意一个键值的概率为 1/n,则一次成功查找的平均键值比较次数为:

综上所述,平方探测和双哈希探测的成功与不成功的平均键值比较次数如下:

总的来说,在数据量非常大的情况下,简单的 hash 函数不可避免不产生碰撞,即使采用了合适的处理碰撞的方法,依旧有一定时间复杂度。所以想尽可能的避免碰撞,还是要选择高性能的 hash 函数,或者增加 hash 的位数,比如64位,128位,256位,这样碰撞的几率会小很多。

3. 哈希表的扩容策略

随着哈希表装载因子的变大,发生碰撞的次数变得越来也多,哈希表的性能变得越来越差。对于单独链表法实现的哈希表,尚可以容忍,但是对于开放寻址法,这种性能的下降是不能接受的,因此对于开放寻址法需要寻找一种方法解决这个问题。

在实际应用中,解决这个问题的办法是动态的增大哈希表的长度,当装载因子超过某个阈值时增加哈希表的长度,自动扩容。每当哈希表的长度发生变化之后,所有 key 在哈希表中对应的下标索引需要全部重新计算,不能直接从原来的哈希表中拷贝到新的哈希表中。必须一个一个计算原来哈希表中的 key 的哈希值并插入到新的哈希表中。这种方式肯定是达不到生产环境的要求的,因为时间复杂度太高了,O(n),数据量一旦大了,性能就会很差。Redis 想了一种方法,就算是触发增长时也只需要常数时间 O(1) 即可完成插入操作。解决办法是分多次、渐进式地完成的旧哈希表到新哈希表的拷贝而不是一次拷贝完成。

接下来以 Redis 为例,来谈谈它是哈希表是如何进行扩容并且不太影响性能的。

Redis 对字典的定义如下:

C

/*

* 字典

*

* 每个字典使用两个哈希表,用于实现渐进式 rehash

*/

typedefstructdict{

// 特定于类型的处理函数

dictType*type;

// 类型处理函数的私有数据

void*privdata;

// 哈希表(2 个)

dictht ht[2];

// 记录 rehash 进度的标志,值为 -1 表示 rehash 未进行

intrehashidx;

// 当前正在运作的安全迭代器数量

intiterators;

}dict;

从定义上我们可以看到,Redis 字典保存了2个哈希表,哈希表ht[1]就是用来 rehash 的。

在 Redis 中定义了如下的哈希表的数据结构:

C

/*

* 哈希表

*/

typedefstructdictht{

// 哈希表节点指针数组(俗称桶,bucket)

dictEntry**table;

// 指针数组的大小

unsignedlongsize;

// 指针数组的长度掩码,用于计算索引值

unsignedlongsizemask;

// 哈希表现有的节点数量

unsignedlongused;

}dictht;

table 属性是个数组, 数组的每个元素都是个指向 dictEntry 结构的指针。

每个 dictEntry 都保存着一个键值对, 以及一个指向另一个 dictEntry 结构的指针:

C

/*

* 哈希表节点

*/

typedefstructdictEntry{

// 键

void*key;

// 值

union{

void*val;

uint64_tu64;

int64_ts64;

}v;

// 链往后继节点

structdictEntry*next;

}dictEntry;

next 属性指向另一个 dictEntry 结构, 多个 dictEntry 可以通过 next 指针串连成链表, 从这里可以看出, dictht 使用链地址法来处理键碰撞问题的。

dictAdd 在每次向字典添加新键值对之前, 都会对哈希表 ht[0] 进行检查, 对于 ht[0] 的 size 和 used 属性, 如果它们之间的比率 ratio = used / size 满足以下任何一个条件的话,rehash 过程就会被激活:

自然 rehash : ratio >= 1 ,且变量 dict_can_resize 为真。

强制 rehash : ratio 大于变量 dict_force_resize_ratio (目前版本中, dict_force_resize_ratio 的值为 5 )。

假设当前的字典需要扩容 rehash,那么 Redis 会先设置字典的 rehashidx 为 0 ,标识着 rehash 的开始;再为 ht[1]->table 分配空间,大小至少为 ht[0]->used 的两倍。

如上图, ht[1]->table 已经分配空间了8个空间了。

接着,开始 rehash 。将 ht[0]->table 内的键值移动到 ht[1]->table 中,键值的移动不是一次完成的,分多次进行。

上图可以看出来, ht[0] 中的一部分键值已经迁移到 ht[1] 中了,并且此时还有新的键值插入进来,是直接插入到 ht[1] 中的,不会再插入到 ht[0] 中了。保证了 ht[0] 只减不增。

在 rehash 进行的过程中,不断的有新的键值插入进来,也不断的把 ht[0] 中的键值都迁移过来,直到 ht[0] 中的键值都迁移过来为止。注意 Redis 用的是头插法,新值永远都插在链表的第一个位置,这样也不用遍历到链表的最后,省去了 O(n) 的时间复杂度。进行到上图这种情况,所有的节点也就迁移完毕了。

rehash 在结束之前会进行清理工作,释放 ht[0] 的空间;用 ht[1] 来代替 ht[0] ,使原来的 ht[1] 成为新的 ht[0] ;创建一个新的空哈希表,并将它设置为 ht[1] ;将字典的 rehashidx 属性设置为 -1 ,标识 rehash 已停止;

最终 rehash 结束以后情况如上图。如果还下次还需要 rehash ,重复上述过程即可。这种分多次,渐进式 rehash 的方式也成就了 Redis 的高性能。

值得一提的是,Redis 是支持字典的 reshrink 操作的。操作步骤就是 rehash 的逆过程。

二. 红黑树优化

读到这里,读者应该已经明白了到底用什么方式来控制 map 使得 Hash 碰撞的概率又小,哈希桶数组占用空间又少了吧,答案就是选择好的 Hash 算法和增加扩容机制。

Java 在 JDK1.8 对 HashMap 底层的实现再次进行了优化。

上图是来自美团博客总结的。从这里我们可以发现:

Java 底层初始桶的个数是16个,负载因子默认是0.75,也就是说当键值第一次达到12个的时候就会进行扩容 resize。扩容的临界值在64,当超过了64以后,并且冲突节点为8或者大于8,这个时候就会触发红黑树转换。为了防止底层链表过长,链表就转换为红黑树。

换句话说,当桶的总个数没有到64个的时候,即使链表长为8,也不会进行红黑树转换。

如果节点小于6个,红黑树又会重新退化成链表。

当然这里之所以选择用红黑树来进行优化,保证最坏情况不会退化成 O(n),红黑树能保证最坏时间复杂度也为 O(log n)。

在美团博客中也提到了,Java 在 JDK1.8 中还有一个值得学习的优化。Java 在 rehash 的键值节点迁移过程中,不需要再次计算一次 hash 计算!

由于使用了2次幂的扩展(指长度扩为原来2倍),所以,元素的位置要么是在原位置,要么是在原位置再移动2次幂的位置。看下图可以明白这句话的意思,n 为 table 的长度,图(a)表示扩容前的 key1 和 key2 两种 key 确定索引位置的示例,图(b)表示扩容后 key1 和

key2 两种 key 确定索引位置的示例,其中 hash1 是 key1 对应的哈希与高位运算结果。

元素在重新计算 hash 之后,因为 n 变为2倍,那么 n-1 的 mask 范围在高位多1bit(红色),因此新的 index 就会发生这样的变化:

所以在扩容以后,就只需要看扩容容量以后那个位上的值为0,还是为1,如果是0,代表索引不变,如果是1,代表的是新的索引值等于原来的索引值加上 oldCap 即可,这样就不需要再次计算一次 hash 了。

上图是把16扩容到32的情况。

三. Go 中 Map 的具体实现举例

读到这里,读者对如何设计一个 Map 应该有一些自己的想法了。选择一个优秀的哈希算法,用链表 + 数组 作为底层数据结构,如何扩容和优化,这些应该都有了解了。读到这里也许读者认为本篇文章内容已经过半了,不过前面这些都是偏理论,接下来也许才到了本文的重点部分 —— 从零开始分析一下完整的 Map 实现。

接下来笔者对 Go 中的 Map 的底层实现进行分析,也算是对一个 Map 的具体实现和重要的几个操作,添加键值,删除键值,扩容策略进行举例。

Go 的 map 实现在 /src/runtime/hashmap.go 这个文件中。

map 底层实质还是一个 hash table。

先来看看 Go 定义了一些常量。

Go

const(

// 一个桶里面最多可以装的键值对的个数,8对。

bucketCntBits=3

bucketCnt=1<

// 触发扩容操作的最大装载因子的临界值

loadFactor=6.5

// 为了保持内联,键 和 值 的最大长度都是128字节,如果超过了128个字节,就存储它的指针

maxKeySize=128

maxValueSize=128

// 数据偏移应该是 bmap 的整数倍,但是需要正确的对齐。

dataOffset=unsafe.Offsetof(struct{

        b bmap

vint64

}{}.v)

// tophash 的一些值

empty=0// 没有键值对

evacuatedEmpty=1// 没有键值对,并且桶内的键值被迁移走了。

evacuatedX=2// 键值对有效,并且已经迁移了一个表的前半段

evacuatedY=3// 键值对有效,并且已经迁移了一个表的后半段

minTopHash=4// 最小的 tophash

// 标记

iterator=1// 当前桶的迭代子

oldIterator=2// 旧桶的迭代子

hashWriting=4// 一个goroutine正在写入map

sameSizeGrow=8// 当前字典增长到新字典并且保持相同的大小

// 迭代子检查桶ID的哨兵

noCheck=1<<(8*sys.PtrSize)-1

)

这里值得说明的一点是触发扩容操作的临界值6.5是怎么得来的。这个值太大会导致overflow buckets过多,查找效率降低,过小会浪费存储空间。

据 Google 开发人员称,这个值是一个测试的程序,测量出来选择的一个经验值。

%overflow : 溢出率,平均一个 bucket 有多少个 键值kv 的时候会溢出。

bytes/entry :

平均存一个 键值kv 需要额外存储多少字节的数据。

hitprobe :

查找一个存在的 key 平均查找次数。

missprobe :

查找一个不存在的 key 平均查找次数。

经过这几组测试数据,最终选定 6.5 作为临界的装载因子。

接着看看 Go 中 map header 的定义:

Go

typehmapstruct{

countint// map 的长度

flagsuint8

Buint8// log以2为底,桶个数的对数 (总共能存 6.5 * 2^B 个元素)

noverflowuint16// 近似溢出桶的个数

hash0uint32// 哈希种子

buckets    unsafe.Pointer// 有 2^B 个桶的数组. count==0 的时候,这个数组为 nil.

oldbuckets unsafe.Pointer// 旧的桶数组一半的元素

nevacuateuintptr// 扩容增长过程中的计数器

extra*mapextra// 可选字段

}

在 Go 的 map header 结构中,也包含了2个指向桶数组的指针,buckets 指向新的桶数组,oldbuckets 指向旧的桶数组。这点和 Redis 字典中也有两个 dictht 数组类似。

hmap 的最后一个字段是一个指向 mapextra 结构的指针,它的定义如下:

Go

typemapextrastruct{

overflow[2]*[]*bmap

nextOverflow*bmap

}

如果一个键值对没有找到对应的指针,那么就会把它们先存到溢出桶 overflow 里面。在 mapextra 中还有一个指向下一个可用的溢出桶的指针。

溢出桶 overflow 是一个数组,里面存了2个指向 *bmap 数组的指针。overflow[0] 里面装的是 hmap.buckets 。overflow[1] 里面装的是 hmap.oldbuckets。

再看看桶的数据结构的定义,bmap 就是 Go 中 map 里面桶对应的结构体类型。

Go

typebmapstruct{

tophash[bucketCnt]uint8

}

桶的定义比较简单,里面就只是包含了一个 uint8 类型的数组,里面包含8个元素。这8个元素存储的是 hash 值的高8位。

在 tophash 之后的内存布局里还有2块内容。紧接着 tophash 之后的是8对 键值 key- value 对。并且排列方式是 8个 key 和 8个 value 放在一起。

8对 键值 key- value 对结束以后紧接着一个 overflow 指针,指向下一个 bmap。从此也可以看出 Go 中 map是用链表的方式处理 hash 冲突的。

为何 Go 存储键值对的方式不是普通的 key/value、key/value、key/value……这样存储的呢?它是键 key 都存储在一起,然后紧接着是 值value 都存储在一起,为什么会这样呢?

在 Redis 中,当使用 REDIS_ENCODING_ZIPLIST 编码哈希表时, 程序通过将键和值一同推入压缩列表, 从而形成保存哈希表所需的键-值对结构,如上图。新添加的 key-value 对会被添加到压缩列表的表尾。

这种结构有一个弊端,如果存储的键和值的类型不同,在内存中布局中所占字节不同的话,就需要对齐。比如说存储一个 map[int64]int8 类型的字典。

Go 为了节约内存对齐的内存消耗,于是把它设计成上图所示那样。

如果 map 里面存储了上万亿的大数据,这里节约出来的内存空间还是比较可观的。

1. 新建 Map

makemap 新建了一个 Map,如果入参 h 不为空,那么 map 的 hmap 就是入参的这个 hmap,如果入参 bucket 不为空,那么这个 bucket 桶就作为第一个桶。

Go

func makemap(t *maptype, hint int64, h *hmap, bucket unsafe.Pointer) *hmap{

// hmap 的 size 大小的值非法

ifsz:=unsafe.Sizeof(hmap{});sz>48||sz!=t.hmap.size{

println("runtime: sizeof(hmap) =",sz,", t.hmap.size =",t.hmap.size)

throw("bad hmap size")

}

// 超过范围的 hint 值都为0

ifhint<0||hint>int64(maxSliceCap(t.bucket.size)){

hint=0

}

// key 值的类型不是 Go 所支持的

if!ismapkey(t.key){

throw("runtime.makemap: unsupported map key type")

}

// 通过编译器和反射检车 key 值的 size 是否合法

ift.key.size>maxKeySize&&(!t.indirectkey||t.keysize!=uint8(sys.PtrSize))||

t.key.size<=maxKeySize&&(t.indirectkey||t.keysize!=uint8(t.key.size)){

throw("key size wrong")

}

// 通过编译器和反射检车 value 值的 size 是否合法

ift.elem.size>maxValueSize&&(!t.indirectvalue||t.valuesize!=uint8(sys.PtrSize))||

t.elem.size<=maxValueSize&&(t.indirectvalue||t.valuesize!=uint8(t.elem.size)){

throw("value size wrong")

}

// 虽然以下的变量我们不依赖,而且可以在编译阶段检查下面这些值的合法性,

// 但是我们还是在这里检测。

// key 值对齐超过桶的个数

ift.key.align>bucketCnt{

throw("key align too big")

}

// value 值对齐超过桶的个数

ift.elem.align>bucketCnt{

throw("value align too big")

}

// key 值的 size 不是 key 值对齐的倍数

ift.key.size%uintptr(t.key.align)!=0{

throw("key size not a multiple of key align")

}

// value 值的 size 不是 value 值对齐的倍数

ift.elem.size%uintptr(t.elem.align)!=0{

throw("value size not a multiple of value align")

}

// 桶个数太小,无法正确对齐

ifbucketCnt<8{

throw("bucketsize too small for proper alignment")

}

// 数据偏移量不是 key 值对齐的整数倍,说明需要在桶中填充 key

ifdataOffset%uintptr(t.key.align)!=0{

throw("need padding in bucket (key)")

}

// 数据偏移量不是 value 值对齐的整数倍,说明需要在桶中填充 value

ifdataOffset%uintptr(t.elem.align)!=0{

throw("need padding in bucket (value)")

}

B:=uint8(0)

for;overLoadFactor(hint,B);B++{

}

// 分配内存并初始化哈希表

// 如果此时 B = 0,那么 hmap 中的 buckets 字段稍后分配

// 如果 hint 值很大,初始化这块内存需要一段时间。

buckets:=bucket

varextra*mapextra

ifB!=0{

varnextOverflow*bmap

// 初始化 bucket 和 nextOverflow

buckets,nextOverflow=makeBucketArray(t,B)

ifnextOverflow!=nil{

extra=new(mapextra)

extra.nextOverflow=nextOverflow

}

}

// 初始化 hmap

ifh==nil{

h=(*hmap)(newobject(t.hmap))

}

h.count=0

h.B=B

h.extra=extra

h.flags=0

h.hash0=fastrand()

h.buckets=buckets

h.oldbuckets=nil

h.nevacuate=0

h.noverflow=0

returnh

}

新建一个 map 最重要的就是分配内存并初始化哈希表,在 B 不为0的情况下,还会初始化 mapextra 并且会 buckets 会被重新生成。

Go

func makeBucketArray(t *maptype, b uint8) (buckets unsafe.Pointer, nextOverflow *bmap){

base:=uintptr(1<

nbuckets:=base

ifb>=4{

nbuckets+=1<<(b-4)

sz:=t.bucket.size*nbuckets

up:=roundupsize(sz)

// 如果申请 sz 大小的桶,系统只能返回 up 大小的内存空间,那么桶的个数为 up / t.bucket.size

ifup!=sz{

nbuckets=up/t.bucket.size

}

}

buckets=newarray(t.bucket,int(nbuckets))

// 当 b > 4 并且计算出来桶的个数与 1 << b 个数不等的时候,

ifbase!=nbuckets{

// 此时 nbuckets 比 base 大,那么会预先分配 nbuckets - base 个 nextOverflow 桶

nextOverflow=(*bmap)(add(buckets,base*uintptr(t.bucketsize)))

last:=(*bmap)(add(buckets,(nbuckets-1)*uintptr(t.bucketsize)))

last.setoverflow(t,(*bmap)(buckets))

}

returnbuckets,nextOverflow

}

这里的 newarray 就已经是 mallocgc 了。

从上述代码里面可以看出,只有当 B >=4 的时候,makeBucketArray 才会生成 nextOverflow 指针指向 bmap,从而在 Map 生成 hmap 的时候才会生成 mapextra 。

当 B = 3 ( B < 4 ) 的时候,初始化 hmap 只会生成8个桶。

当 B = 4 ( B >= 4 ) 的时候,初始化 hmap 的时候还会额外生成 mapextra ,并初始化 nextOverflow。mapextra 的 nextOverflow 指针会指向第16个桶结束,第17个桶的首地址。第17个桶(从0开始,也就是下标为16的桶)的 bucketsize - sys.PtrSize 地址开始存一个指针,这个指针指向当前整个桶的首地址。这个指针就是 bmap 的 overflow 指针。

当 B = 5 ( B >= 4 ) 的时候,初始化 hmap 的时候还会额外生成 mapextra ,并初始化 nextOverflow。这个时候就会生成总共34个桶了。同理,最后一个桶大小减去一个指针的大小的地址开始存储一个 overflow 指针。

2. 查找 Key

在 Go 中,如果字典里面查找一个不存在的 key ,查找不到并不会返回一个 nil ,而是返回当前类型的零值。比如,字符串就返回空字符串,int 类型就返回 0 。

Go

func mapaccess1(t *maptype, h *hmap, key unsafe.Pointer)unsafe.Pointer{

ifraceenabled&&h!=nil{

// 获取 caller 的 程序计数器 program counter

callerpc:=getcallerpc(unsafe.Pointer(&t))

// 获取 mapaccess1 的程序计数器 program counter

pc:=funcPC(mapaccess1)

racereadpc(unsafe.Pointer(h),callerpc,pc)

raceReadObjectPC(t.key,key,callerpc,pc)

}

ifmsanenabled&&h!=nil{

msanread(key,t.key.size)

}

ifh==nil||h.count==0{

returnunsafe.Pointer(&zeroVal[0])

}

// 如果多线程读写,直接抛出异常

// 并发检查 go hashmap 不支持并发访问

ifh.flags&hashWriting!=0{

throw("concurrent map read and map write")

}

alg:=t.key.alg

// 计算 key 的 hash 值

hash:=alg.hash(key,uintptr(h.hash0))

m:=uintptr(1)<

// hash % (1<

b:=(*bmap)(add(h.buckets,(hash&m)*uintptr(t.bucketsize)))

// 如果当前还存在 oldbuckets 桶

ifc:=h.oldbuckets;c!=nil{

// 当前扩容不是等量扩容

if!h.sameSizeGrow(){

// 如果 oldbuckets 未迁移完成 则找找 oldbuckets 中对应的 bucket(低 B-1 位)

// 否则为 buckets 中的 bucket(低 B 位)

// 把 mask 缩小 1 倍

m>>=1

}

oldb:=(*bmap)(add(c,(hash&m)*uintptr(t.bucketsize)))

if!evacuated(oldb){

// 如果 oldbuckets 桶存在,并且还没有扩容迁移,就在老的桶里面查找 key

b=oldb

}

}

// 取出 hash 值的高 8 位

top:=uint8(hash>>(sys.PtrSize*8-8))

// 如果 top 小于 minTopHash,就让它加上 minTopHash 的偏移。

// 因为 0 - minTopHash 这区间的数都已经用来作为标记位了

iftop

top+=minTopHash

}

for{

fori:=uintptr(0);i

// 如果 hash 的高8位和当前 key 记录的不一样,就找下一个

// 这样比较很高效,因为只用比较高8位,不用比较所有的 hash 值

// 如果高8位都不相同,hash 值肯定不同,但是高8位如果相同,那么就要比较整个 hash 值了

ifb.tophash[i]!=top{

continue

}

// 取出 key 值的方式是用偏移量,bmap 首地址 + i 个 key 值大小的偏移量

k:=add(unsafe.Pointer(b),dataOffset+i*uintptr(t.keysize))

ift.indirectkey{

k=*((*unsafe.Pointer)(k))

}

// 比较 key 值是否相等

ifalg.equal(key,k){

// 如果找到了 key,那么取出 value 值

// 取出 value 值的方式是用偏移量,bmap 首地址 + 8 个 key 值大小的偏移量 + i 个 value 值大小的偏移量

v:=add(unsafe.Pointer(b),dataOffset+bucketCnt*uintptr(t.keysize)+i*uintptr(t.valuesize))

ift.indirectvalue{

v=*((*unsafe.Pointer)(v))

}

returnv

}

}

// 如果当前桶里面没有找到相应的 key ,那么就去下一个桶去找

b=b.overflow(t)

// 如果 b == nil,说明桶已经都找完了,返回对应type的零值

ifb==nil{

returnunsafe.Pointer(&zeroVal[0])

}

}

}

具体实现代码如上,详细解释见代码。

如上图,这是一个查找 key 的全过程。

首先计算出 key 对应的 hash 值,hash 值对 B 取余。

这里有一个优化点。m % n 这步计算,如果 n 是2的倍数,那么可以省去这一步取余操作。

Go

m%n=m&(n-1)

这样优化就可以省去耗时的取余操作了。这里例子中计算完取出来是 0010 ,也就是2,于是对应的是桶数组里面的第3个桶。为什么是第3个桶呢?首地址指向第0个桶,往下偏移2个桶的大小,于是偏移到了第3个桶的首地址了,具体实现可以看上述代码。

hash 的低 B 位决定了桶数组里面的第几个桶,hash 值的高8位决定了这个桶数组 bmap 里面 key 存在 tophash 数组的第几位了。如上图,hash 的高8位用来和 tophash 数组里面的每个值进行对比,如果高8位和 tophash[i] 不等,就直接比下一个。如果相等,则取出 bmap 里面对应完整的 key,再比较一次,看是否完全一致。

整个查找过程优先在 oldbucket 里面找(如果存在 lodbucket 的话),找完再去新 bmap 里面找。

有人可能会有疑问,为何这里要加入 tophash 多一次比较呢?

tophash 的引入是为了加速查找的。由于它只存了 hash 值的高8位,比查找完整的64位要快很多。通过比较高8位,迅速找到高8位一致hash 值的索引,接下来再进行一次完整的比较,如果还一致,那么就判定找到该 key 了。

如果找到了 key 就返回对应的 value。如果没有找到,还会继续去 overflow 桶继续寻找,直到找到最后一个桶,如果还没有找到就返回对应类型的零值。

3. 插入 Key

插入 key 的过程和查找 key 的过程大体一致。

Go

func mapassign(t *maptype, h *hmap, key unsafe.Pointer)unsafe.Pointer{

ifh==nil{

panic(plainError("assignment to entry in nil map"))

}

ifraceenabled{

// 获取 caller 的 程序计数器 program counter

callerpc:=getcallerpc(unsafe.Pointer(&t))

// 获取 mapassign 的程序计数器 program counter

pc:=funcPC(mapassign)

racewritepc(unsafe.Pointer(h),callerpc,pc)

raceReadObjectPC(t.key,key,callerpc,pc)

}

ifmsanenabled{

msanread(key,t.key.size)

}

// 如果多线程读写,直接抛出异常

// 并发检查 go hashmap 不支持并发访问

ifh.flags&hashWriting!=0{

throw("concurrent map writes")

}

alg:=t.key.alg

// 计算 key 值的 hash 值

hash:=alg.hash(key,uintptr(h.hash0))

// 在计算完 hash 值以后立即设置 hashWriting 变量的值,如果在计算 hash 值的过程中没有完全写完,可能会导致 panic

h.flags|=hashWriting

// 如果 hmap 的桶的个数为0,那么就新建一个桶

ifh.buckets==nil{

h.buckets=newarray(t.bucket,1)

}

again:

// hash 值对 B 取余,求得所在哪个桶

bucket:=hash&(uintptr(1)<

// 如果还在扩容中,继续扩容

ifh.growing(){

growWork(t,h,bucket)

}

// 根据 hash 值的低 B 位找到位于哪个桶

b:=(*bmap)(unsafe.Pointer(uintptr(h.buckets)+bucket*uintptr(t.bucketsize)))

// 计算 hash 值的高 8 位

top:=uint8(hash>>(sys.PtrSize*8-8))

iftop

top+=minTopHash

}

varinserti*uint8

varinsertk unsafe.Pointer

varval unsafe.Pointer

for{

// 遍历当前桶所有键值,查找 key 对应的 value

fori:=uintptr(0);i

ifb.tophash[i]!=top{

ifb.tophash[i]==empty&&inserti==nil{

// 如果往后找都没有找到,这里先记录一个标记,方便找不到以后插入到这里

inserti=&b.tophash[i]

// 计算出偏移 i 个 key 值的位置

insertk=add(unsafe.Pointer(b),dataOffset+i*uintptr(t.keysize))

// 计算出 val 所在的位置,当前桶的首地址 + 8个 key 值所占的大小 + i 个 value 值所占的大小

val=add(unsafe.Pointer(b),dataOffset+bucketCnt*uintptr(t.keysize)+i*uintptr(t.valuesize))

}

continue

}

// 依次取出 key 值

k:=add(unsafe.Pointer(b),dataOffset+i*uintptr(t.keysize))

// 如果 key 值是一个指针,那么就取出改指针对应的 key 值

ift.indirectkey{

k=*((*unsafe.Pointer)(k))

}

// 比较 key 值是否相等

if!alg.equal(key,k){

continue

}

// 如果需要更新,那么就把 t.key 拷贝从 k 拷贝到 key

ift.needkeyupdate{

typedmemmove(t.key,k,key)

}

// 计算出 val 所在的位置,当前桶的首地址 + 8个 key 值所占的大小 + i 个 value 值所占的大小

val=add(unsafe.Pointer(b),dataOffset+bucketCnt*uintptr(t.keysize)+i*uintptr(t.valuesize))

gotodone

}

ovf:=b.overflow(t)

ifovf==nil{

break

}

b=ovf

}

// 没有找到当前的 key 值,并且检查最大负载因子,如果达到了最大负载因子,或者存在很多溢出的桶

if!h.growing()&&(overLoadFactor(int64(h.count),h.B)||tooManyOverflowBuckets(h.noverflow,h.B)){

// 开始扩容

hashGrow(t,h)

gotoagain// Growing the table invalidates everything, so try again

}

// 如果找不到一个空的位置可以插入 key 值

ifinserti==nil{

// all current buckets are full, allocate a new one.

// 意味着当前桶已经全部满了,那么就生成一个新的

newb:=h.newoverflow(t,b)

inserti=&newb.tophash[0]

insertk=add(unsafe.Pointer(newb),dataOffset)

val=add(insertk,bucketCnt*uintptr(t.keysize))

}

// store new key/value at insert position

ift.indirectkey{

// 如果是存储 key 值的指针,这里就用 insertk 存储 key 值的地址

kmem:=newobject(t.key)

*(*unsafe.Pointer)(insertk)=kmem

insertk=kmem

}

ift.indirectvalue{

// 如果是存储 value 值的指针,这里就用 val 存储 key 值的地址

vmem:=newobject(t.elem)

*(*unsafe.Pointer)(val)=vmem

}

// 将 t.key 从 insertk 拷贝到 key 的位置

typedmemmove(t.key,insertk,key)

*inserti=top

// hmap 中保存的总 key 值的数量 + 1

h.count++

done:

// 禁止并发写

ifh.flags&hashWriting==0{

throw("concurrent map writes")

}

h.flags&^=hashWriting

ift.indirectvalue{

// 如果 value 里面存储的是指针,那么取值该指针指向的 value 值

val=*((*unsafe.Pointer)(val))

}

returnval

}

插入 key 的过程中和查找 key 有几点不同,需要注意:

1.如果找到要插入的 key ,只需要直接更新对应的 value 值就好了。

2.如果没有在 bmap 中没有找到待插入的 key ,这么这时分几种情况。 情况一: bmap 中还有空位,在遍历 bmap 的时候预先标记空位,一旦查找结束也没有找到 key,就把 key 放到预先遍历时候标记的空位上。 情况二:bmap中已经没有空位了。这个时候 bmap 装的很满了。此时需要检查一次最大负载因子是否已经达到了。如果达到了,立即进行扩容操作。扩容以后在新桶里面插入 key,流程和上述的一致。如果没有达到最大负载因子,那么就在新生成一个 bmap,并把前一个 bmap 的 overflow 指针指向新的 bmap。

3.在扩容过程中,oldbucke t是被冻结的,查找 key 时会在 oldbucket 中查找,但不会在 oldbucket 中插入数据。如果在 oldbucket 是找到了相应的key,做法是将它迁移到新 bmap 后加入 evalucated 标记。

其他流程和查找 key 基本一致,这里就不再赘述了。

3. 删除 Key

Go

func mapdelete(t *maptype, h *hmap, key unsafe.Pointer){

ifraceenabled&&h!=nil{

// 获取 caller 的 程序计数器 program counter

callerpc:=getcallerpc(unsafe.Pointer(&t))

// 获取 mapdelete 的程序计数器 program counter

pc:=funcPC(mapdelete)

racewritepc(unsafe.Pointer(h),callerpc,pc)

raceReadObjectPC(t.key,key,callerpc,pc)

}

ifmsanenabled&&h!=nil{

msanread(key,t.key.size)

}

ifh==nil||h.count==0{

return

}

// 如果多线程读写,直接抛出异常

// 并发检查 go hashmap 不支持并发访问

ifh.flags&hashWriting!=0{

throw("concurrent map writes")

}

alg:=t.key.alg

// 计算 key 值的 hash 值

hash:=alg.hash(key,uintptr(h.hash0))

// 在计算完 hash 值以后立即设置 hashWriting 变量的值,如果在计算 hash 值的过程中没有完全写完,可能会导致 panic

h.flags|=hashWriting

bucket:=hash&(uintptr(1)<

// 如果还在扩容中,继续扩容

ifh.growing(){

growWork(t,h,bucket)

}

// 根据 hash 值的低 B 位找到位于哪个桶

b:=(*bmap)(unsafe.Pointer(uintptr(h.buckets)+bucket*uintptr(t.bucketsize)))

// 计算 hash 值的高 8 位

top:=uint8(hash>>(sys.PtrSize*8-8))

iftop

top+=minTopHash

}

for{

// 遍历当前桶所有键值,查找 key 对应的 value

fori:=uintptr(0);i

ifb.tophash[i]!=top{

continue

}

k:=add(unsafe.Pointer(b),dataOffset+i*uintptr(t.keysize))

// 如果 k 是指向 key 的指针,那么这里需要取出 key 的值

k2:=k

ift.indirectkey{

k2=*((*unsafe.Pointer)(k2))

}

if!alg.equal(key,k2){

continue

}

// key 的指针置空

ift.indirectkey{

*(*unsafe.Pointer)(k)=nil

}else{

// 清除 key 的内存

typedmemclr(t.key,k)

}

v:=unsafe.Pointer(uintptr(unsafe.Pointer(b))+dataOffset+bucketCnt*uintptr(t.keysize)+i*uintptr(t.valuesize))

// value 的指针置空

ift.indirectvalue{

*(*unsafe.Pointer)(v)=nil

}else{

// 清除 value 的内存

typedmemclr(t.elem,v)

}

// 清空 tophash 里面的值

b.tophash[i]=empty

// map 里面 key 的总个数减1

h.count--

gotodone

}

// 如果没有找到,那么就继续查找 overflow 桶,一直遍历到最后一个

b=b.overflow(t)

ifb==nil{

gotodone

}

}

done:

ifh.flags&hashWriting==0{

throw("concurrent map writes")

}

h.flags&^=hashWriting

}

删除操作主要流程和查找 key 流程也差不多,找到对应的 key 以后,如果是指针指向原来的 key,就把指针置为 nil。如果是值就清空它所在的内存。还要清理 tophash 里面的值最后把 map 的 key 总个数计数器减1 。

如果在扩容过程中,删除操作会在扩容以后在新的 bmap 里面删除。

查找的过程依旧会一直遍历到链表的最后一个 bmap 桶。

4. 增量翻倍扩容

这部分算是整个 Map 实现比较核心的部分了。我们都知道 Map 在不断的装载 Key 值的时候,查找效率会变的越来越低,如果此时不进行扩容操作的话,哈希冲突使得链表变得越来越长,性能也就越来越差。扩容势在必行。

但是扩容过程中如果阻断了 Key 值的写入,在处理大数据的时候会导致有一段不响应的时间,如果用在高实时的系统中,那么每次扩容都会卡几秒,这段时间都不能相应任何请求。这种性能明显是不能接受的。所以要既不影响写入,也同时要进行扩容。这个时候就应该增量扩容了。

这里增量扩容其实用途已经很广泛了,之前举例的 Redis 就采用的增量扩容策略。

接下来看看 Go 是怎么进行增量扩容的。

在 Go 的 mapassign 插入 Key 值、mapdelete 删除 key 值的时候都会检查当前是否在扩容中。

Go

func growWork(t *maptype, h *hmap, bucket uintptr){

// 确保我们迁移了所有 oldbucket

evacuate(t,h,bucket&h.oldbucketmask())

// 再迁移一个标记过的桶

ifh.growing(){

evacuate(t,h,h.nevacuate)

}

}

从这里我们可以看到,每次执行一次 growWork 会迁移2个桶。一个是当前的桶,这算是局部迁移,另外一个是 hmap 里面指向的 nevacuate 的桶,这算是增量迁移。

在插入 Key 值的时候,如果当前在扩容过程中,oldbucket 是被冻结的,查找时会先在 oldbucket 中查找,但不会在oldbucket中插入数据。只有在 oldbucket 找到了相应的 key,那么将它迁移到新 bucket 后加入 evalucated 标记。

在删除 Key 值的时候,如果当前在扩容过程中,优先查找 bucket,即新桶,找到一个以后把它对应的 Key、Value 都置空。如果 bucket 里面找不到,才会去 oldbucket 中去查找。

每次插入 Key 值的时候,都会判断一下当前装载因子是否超过了 6.5,如果达到了这个极限,就立即执行扩容操作 hashGrow。这是扩容之前的准备工作。

Go

func hashGrow(t *maptype, h *hmap){

// 如果达到了最大装载因子,就需要扩容。

// 不然的话,一个桶后面链表跟着一大堆的 overflow 桶

bigger:=uint8(1)

if!overLoadFactor(int64(h.count),h.B){

bigger=0

h.flags|=sameSizeGrow

}

// 把 hmap 的旧桶的指针指向当前桶

oldbuckets:=h.buckets

// 生成新的扩容以后的桶,hmap 的 buckets 指针指向扩容以后的桶。

newbuckets,nextOverflow:=makeBucketArray(t,h.B+bigger)

flags:=h.flags&^(iterator|oldIterator)

ifh.flags&iterator!=0{

flags|=oldIterator

}

// B 加上新的值

h.B+=bigger

h.flags=flags

// 旧桶指针指向当前桶

h.oldbuckets=oldbuckets

// 新桶指针指向扩容以后的桶

h.buckets=newbuckets

h.nevacuate=0

h.noverflow=0

ifh.extra!=nil&&h.extra.overflow[0]!=nil{

ifh.extra.overflow[1]!=nil{

throw("overflow is not nil")

}

// 交换 overflow[0] 和 overflow[1] 的指向

h.extra.overflow[1]=h.extra.overflow[0]

h.extra.overflow[0]=nil

}

ifnextOverflow!=nil{

ifh.extra==nil{

// 生成 mapextra

h.extra=new(mapextra)

}

h.extra.nextOverflow=nextOverflow

}

// 实际拷贝键值对的过程在 evacuate() 中

}

用图表示出它的流程:

hashGrow 操作算是扩容之前的准备工作,实际拷贝的过程在 evacuate 中。

hashGrow 操作会先生成扩容以后的新的桶数组。新的桶数组的大小是之前的2倍。然后 hmap 的 buckets 会指向这个新的扩容以后的桶,而 oldbuckets 会指向当前的桶数组。

处理完 hmap 以后,再处理 mapextra,nextOverflow 的指向原来的 overflow 指针,overflow 指针置为 null。

到此就做好扩容之前的准备工作了。

Go

func evacuate(t *maptype, h *hmap, oldbucket uintptr){

b:=(*bmap)(add(h.oldbuckets,oldbucket*uintptr(t.bucketsize)))

// 在准备扩容之前桶的个数

newbit:=h.noldbuckets()

alg:=t.key.alg

if!evacuated(b){

//TODO:reuse overflow buckets instead of using new ones, if there

// is no iterator using the old buckets.  (If !oldIterator.)

var(

x,y*bmap// 在新桶里面 低位桶和高位桶

xi,yiint// key 和 value 值的索引值分别为 xi , yi

xk,yk unsafe.Pointer// 指向 x 和 y 的 key 值的指针

xv,yv unsafe.Pointer// 指向 x 和 y 的 value 值的指针 

)

// 新桶中低位的一些桶

x=(*bmap)(add(h.buckets,oldbucket*uintptr(t.bucketsize)))

xi=0

// 扩容以后的新桶中低位的第一个 key 值

xk=add(unsafe.Pointer(x),dataOffset)

// 扩容以后的新桶中低位的第一个 key 值对应的 value 值

xv=add(xk,bucketCnt*uintptr(t.keysize))

// 如果不是等量扩容

if!h.sameSizeGrow(){

y=(*bmap)(add(h.buckets,(oldbucket+newbit)*uintptr(t.bucketsize)))

yi=0

yk=add(unsafe.Pointer(y),dataOffset)

yv=add(yk,bucketCnt*uintptr(t.keysize))

}

// 依次遍历溢出桶

for;b!=nil;b=b.overflow(t){

k:=add(unsafe.Pointer(b),dataOffset)

v:=add(k,bucketCnt*uintptr(t.keysize))

// 遍历 key - value 键值对

fori:=0;i

top:=b.tophash[i]

iftop==empty{

b.tophash[i]=evacuatedEmpty

continue

}

iftop

throw("bad map state")

}

k2:=k

// key 值如果是指针,则取出指针里面的值

ift.indirectkey{

k2=*((*unsafe.Pointer)(k2))

}

useX:=true

if!h.sameSizeGrow(){

// 如果不是等量扩容,则需要重新计算 hash 值,不管是高位桶 x 中,还是低位桶 y 中

hash:=alg.hash(k2,uintptr(h.hash0))

ifh.flags&iterator!=0{

if!t.reflexivekey&&!alg.equal(k2,k2){

// 如果两个 key 不相等,那么他们俩极大可能旧的 hash 值也不相等。

// tophash 对要迁移的 key 值也是没有多大意义的,所以我们用低位的 tophash 辅助扩容,标记一些状态。

// 为下一个级 level 重新计算一些新的随机的 hash 值。以至于这些 key 值在多次扩容以后依旧可以均匀分布在所有桶中

// 判断 top 的最低位是否为1

iftop&1!=0{

hash|=newbit

}else{

hash&^=newbit

}

top=uint8(hash>>(sys.PtrSize*8-8))

iftop

top+=minTopHash

}

}

}

useX=hash&newbit==0

}

ifuseX{

// 标记低位桶存在 tophash 中

b.tophash[i]=evacuatedX

// 如果 key 的索引值到了桶最后一个,就新建一个 overflow

ifxi==bucketCnt{

newx:=h.newoverflow(t,x)

x=newx

xi=0

xk=add(unsafe.Pointer(x),dataOffset)

xv=add(xk,bucketCnt*uintptr(t.keysize))

}

// 把 hash 的高8位再次存在 tophash 中

x.tophash[xi]=top

ift.indirectkey{

// 如果是指针指向 key ,那么拷贝指针指向

*(*unsafe.Pointer)(xk)=k2// copy pointer

}else{

// 如果是指针指向 key ,那么进行值拷贝

typedmemmove(t.key,xk,k)// copy value

}

// 同理拷贝 value

ift.indirectvalue{

*(*unsafe.Pointer)(xv)=*(*unsafe.Pointer)(v)

}else{

typedmemmove(t.elem,xv,v)

}

// 继续迁移下一个

xi++

xk=add(xk,uintptr(t.keysize))

xv=add(xv,uintptr(t.valuesize))

}else{

// 这里是高位桶 y,迁移过程和上述低位桶 x 一致,下面就不再赘述了

b.tophash[i]=evacuatedY

ifyi==bucketCnt{

newy:=h.newoverflow(t,y)

y=newy

yi=0

yk=add(unsafe.Pointer(y),dataOffset)

yv=add(yk,bucketCnt*uintptr(t.keysize))

}

y.tophash[yi]=top

ift.indirectkey{

*(*unsafe.Pointer)(yk)=k2

}else{

typedmemmove(t.key,yk,k)

}

ift.indirectvalue{

*(*unsafe.Pointer)(yv)=*(*unsafe.Pointer)(v)

}else{

typedmemmove(t.elem,yv,v)

}

yi++

yk=add(yk,uintptr(t.keysize))

yv=add(yv,uintptr(t.valuesize))

}

}

}

// Unlink the overflow buckets & clear key/value to help GC.

ifh.flags&oldIterator==0{

b=(*bmap)(add(h.oldbuckets,oldbucket*uintptr(t.bucketsize)))

// Preserve b.tophash because the evacuation

// state is maintained there.

ift.bucket.kind&kindNoPointers==0{

memclrHasPointers(add(unsafe.Pointer(b),dataOffset),uintptr(t.bucketsize)-dataOffset)

}else{

memclrNoHeapPointers(add(unsafe.Pointer(b),dataOffset),uintptr(t.bucketsize)-dataOffset)

}

}

}

// Advance evacuation mark

ifoldbucket==h.nevacuate{

h.nevacuate=oldbucket+1

// Experiments suggest that 1024 is overkill by at least an order of magnitude.

// Put it in there as a safeguard anyway, to ensure O(1) behavior.

stop:=h.nevacuate+1024

ifstop>newbit{

stop=newbit

}

forh.nevacuate!=stop&&bucketEvacuated(t,h,h.nevacuate){

h.nevacuate++

}

ifh.nevacuate==newbit{// newbit == # of oldbuckets

// Growing is all done. Free old main bucket array.

h.oldbuckets=nil

// Can discard old overflow buckets as well.

// If they are still referenced by an iterator,

// then the iterator holds a pointers to the slice.

ifh.extra!=nil{

h.extra.overflow[1]=nil

}

h.flags&^=sameSizeGrow

}

}

}

上述函数就是迁移过程最核心的拷贝工作了。

整个迁移过程并不难。这里需要说明的是 x ,y 代表的意义。由于扩容以后,新的桶数组是原来桶数组的2倍。用 x 代表新的桶数组里面低位的那一半,用 y 代表高位的那一半。其他的变量就是一些标记了,游标和标记 key - value 原来所在的位置。详细的见代码注释。

上图中表示了迁移开始之后的过程。可以看到旧的桶数组里面的桶在迁移到新的桶中,并且新的桶也在不断的写入新的 key 值。

一直拷贝键值对,直到旧桶中所有的键值都拷贝到了新的桶中。

最后一步就是释放旧桶,oldbuckets 的指针置为 null。到此,一次迁移过程就完全结束了。

5. 等量扩容

严格意义上这种方式并不能算是扩容。但是函数名是 Grow,姑且暂时就这么叫吧。

在 go1.8 的版本开始,添加了 sameSizeGrow,当 overflow buckets 的数量超过一定数量 (2^B) 但装载因子又未达到 6.5 的时候,此时可能存在部分空的bucket,即 bucket 的使用率低,这时会触发sameSizeGrow,即 B 不变,但走数据迁移流程,将 oldbuckets 的数据重新紧凑排列提高 bucket 的利用率。当然在 sameSizeGrow 过程中,不会触发 loadFactorGrow。

四. Map 实现中的一些优化

读到这里,相信读者心里应该很清楚如何设计并实现一个 Map 了吧。包括 Map 中的各种操作的实现。在探究如何实现一个线程安全的 Map 之前,先把之前说到个一些亮点优化点,小结一下。

在 Redis 中,采用增量式扩容的方式处理哈希冲突。当平均查找长度超过 5 的时候就会触发增量扩容操作,保证 hash 表的高性能。

同时 Redis 采用头插法,保证插入 key 值时候的性能。

在 Java 中,当桶的个数超过了64个以后,并且冲突节点为8或者大于8,这个时候就会触发红黑树转换。这样能保证链表在很长的情况下,查找长度依旧不会太长,并且红黑树保证最差情况下也支持 O(log n) 的时间复杂度。

Java 在迁移之后有一个非常好的设计,只需要比较迁移之后桶个数的最高位是否为0,如果是0,key 在新桶内的相对位置不变,如果是1,则加上桶的旧的桶的个数 oldCap 就可以得到新的位置。

在 Go 中优化的点比较多:

哈希算法选用高效的 memhash 算法 和 CPU AES指令集。AES 指令集充分利用 CPU 硬件特性,计算哈希值的效率超高。

key - value 的排列设计成 key 放在一起,value 放在一起,而不是key,value成对排列。这样方便内存对齐,数据量大了以后节约内存对齐造成的一些浪费。

key,value 的内存大小超过128字节以后自动转成存储一个指针。

tophash 数组的设计加速了 key 的查找过程。tophash 也被复用,用来标记扩容操作时候的状态。

用位运算转换求余操作,m % n ,当 n = 1 << B 的时候,可以转换成 m & (1 << B - 1) 。

增量式扩容。

等量扩容,紧凑操作。

Go 1.9 版本以后,Map 原生就已经支持线程安全。(在下一章中重点讨论这个问题)

当然 Go 中还有一些需要再优化的地方:

在迁移的过程中,当前版本不会重用 overflow 桶,而是直接重新申请一个新的桶。这里可以优化成优先重用没有指针指向的 overflow 桶,当没有可用的了,再去申请一个新的。这一点作者已经写在了 TODO 里面了。

动态合并多个 empty 的桶。

当前版本中没有 shrink 操作,Map 只能增长而不能收缩。这块 Redis 有相关的实现。

线程安全就是如果你的代码块所在的进程中有多个线程在同时运行,而这些线程可能会同时运行这段代码。如果每次运行结果和单线程运行的结果是一样的,而且其他的变量的值也和预期的是一样的,就是线程安全的。

如果代码块中包含了对共享数据的更新操作,那么这个代码块就可能是非线程安全的。但是如果代码块中类似操作都处于临界区之中,那么这个代码块就是线程安全的。

通常有以下两类避免竞争条件的方法来实现线程安全:

第一类 —— 避免共享状态

1.可重入Re-entrancy

通常在线程安全的问题中,最常见的代码块就是函数。让函数具有线程安全的最有效的方式就是使其可重入。如果某个进程中所有线程都可以并发的对函数进行调用,并且无论他们调用该函数的实际执行情况怎么样,该函数都可以产生预期的结果,那么就可以说这个函数是可重入的。

如果一个函数把共享数据作为它的返回结果或者包含在它返回的结果中,那么该函数就肯定不是一个可重入的函数。任何内含了操作共享数据的代码的函数都是不可重入的函数。

为了实现线程安全的函数,把所有代码都置放于临界区中是可行的。但是互斥量的使用总会耗费一定的系统资源和时间,使用互斥量的过程总会存在各种博弈和权衡。所以请合理使用互斥量保护好那些涉及共享数据操作的代码。

注意:可重入只是线程安全的充分不必要条件,并不是充要条件。这个反例在下面会讲到。

2.线程本地存储

如果变量已经被本地化,所以每个线程都有自己的私有副本。这些变量通过子程序和其他代码边界保留它们的值,并且是线程安全的,因为这些变量都是每个线程本地存储的,即使访问它们的代码可能被另一个线程同时执行,依旧是线程安全的。

3.不可变量

对象一旦初始化以后就不能改变。这意味着只有只读数据被共享,这也实现了固有的线程安全性。可变(不是常量)操作可以通过为它们创建新对象,而不是修改现有对象的方式去实现。 Java,C#和 Python 中的字符串的实现就使用了这种方法。

第二类 —— 线程同步

第一类方法都比较简单,通过代码改造就可以实现。但是如果遇到一定要进行线程中共享数据的情况,第一类方法就解决不了了。这时候就出现了第二类解决方案,利用线程同步的方法来解决线程安全问题。

今天就从线程同步开始说起。

一. 线程同步理论

在多线程的程序中,多以共享数据作为线程之间传递数据的手段。由于一个进程所拥有的相当一部分虚拟内存地址都可以被该进程中所有线程共享,所以这些共享数据大多是以内存空间作为载体的。如果两个线程同时读取同一块共享内存但获取到的数据却不同,那么程序很容易出现一些 bug。

为了保证共享数据一致性,最简单并且最彻底的方法就是使该数据成为一个不变量。当然这种绝对的方式在大多数情况下都是不可行的。比如函数中会用到一个计数器,记录函数被调用了几次,这个计数器肯定就不能被设为常量。那这种必须是变量的情况下,还要保证共享数据的一致性,这就引出了临界区的概念。

临界区的出现就是为了使该区域只能被串行的访问或者执行。临界区可以是某个资源,也可以是某段代码。保证临界区最有效的方式就是利用线程同步机制。

先介绍2种共享数据同步的方法。

1. 互斥量

在同一时刻,只允许一个线程处于临界区之内的约束称为互斥,每个线程在进入临界区之前,都必须先锁定某个对象,只有成功锁定对象的线程才能允许进入临界区,否则就会阻塞。这个对象称为互斥对象或者互斥量。

一般我们日常说的互斥锁就能达到这个目的。

互斥量可以有多个,它们所保护的临界区也可以有多个。先从简单的说起,一个互斥量和一个临界区。

(一) 一个互斥量和一个临界区

上图就是一个互斥量和一个临界区的例子。当线程1先进入临界区的时候,当前临界区处于未上锁的状态,于是它便先将临界区上锁。线程1获取到临界区里面的值。

这个时候线程2准备进入临界区,由于线程1把临界区上锁了,所以线程2进入临界区失败,线程2由就绪状态转成睡眠状态。线程1继续对临界区的共享数据进行写入操作。

当线程1完成所有的操作以后,线程1调用解锁操作。当临界区被解锁以后,会尝试唤醒正在睡眠的线程2。线程2被唤醒以后,由睡眠状态再次转换成就绪状态。线程2准备进入临界区,当临界区此处处于未上锁的状态,线程2便将临界区上锁。

经过 read、write 一系列操作以后,最终在离开临界区的时候会解锁。

线程在离开临界区的时候,一定要记得把对应的互斥量解锁。这样其他因临界区被上锁而导致睡眠的线程还有机会被唤醒。所以对同一个互斥变量的锁定和解锁必须成对的出现。既不可以对一个互斥变量进行重复的锁定,也不能对一个互斥变量进行多次的解锁。

如果对一个互斥变量锁定多次可能会导致临界区最终永远阻塞。可能有人会问了,对一个未锁定的互斥变成解锁多次会出现什么问题呢?

在 Go 1.8 之前,虽然对互斥变量解锁多次不会引起任何 goroutine 的阻塞,但是它可能引起一个运行时的恐慌。Go 1.8 之前的版本,是可以尝试恢复这个恐慌的,但是恢复以后,可能会导致一系列的问题,比如重复解锁操作的 goroutine 会永久的阻塞。所以 Go 1.8 版本以后此类运行时的恐慌就变成了不可恢复的了。所以对互斥变量反复解锁就会导致运行时操作,最终程序异常退出。

(二) 多个互斥量和一个临界区

在这种情况下,极容易产生线程死锁的情况。所以尽量不要让不同的互斥量所保护的临界区重叠。

上图这个例子中,一个临界区中存在2个互斥量:互斥量 A 和互斥量 B。

线程1先锁定了互斥量 A ,接着线程2锁定了互斥量 B。当线程1在成功锁定互斥量 B 之前永远不会释放互斥量 A。同样,线程2在成功锁定互斥量 A 之前永远不会释放互斥量 B。那么这个时候线程1和线程2都因无法锁定自己需要锁定的互斥量,都由 ready 就绪状态转换为 sleep 睡眠状态。这是就产生了线程死锁了。

线程死锁的产生原因有以下几种:

1.系统资源竞争

2.进程推荐顺序非法

3.死锁必要条件(必要条件中任意一个不满足,死锁都不会发生)

(1). 互斥条件

(2). 不剥夺条件

(3). 请求和保持条件

(4). 循环等待条件

想避免线程死锁的情况发生有以下几种方法可以解决:

1.预防死锁

(1). 资源有序分配法(破坏环路等待条件)

(2). 资源原子分配法(破坏请求和保持条件)

2.避免死锁

银行家算法

3.检测死锁

死锁定理(资源分配图化简法),这种方法虽然可以检测,但是无法预防,检测出来了死锁还需要配合解除死锁的方法才行。

彻底解决死锁有以下几种方法:

1.剥夺资源

2.撤销进程

3.试锁定 — 回退

如果在执行一个代码块的时候,需要先后(顺序不定)锁定两个变量,那么在成功锁定其中一个互斥量之后应该使用试锁定的方法来锁定另外一个变量。如果试锁定第二个互斥量失败,就把已经锁定的第一个互斥量解锁,并重新对这两个互斥量进行锁定和试锁定。

如上图,线程2在锁定互斥量 B 的时候,再试锁定互斥量 A,此时锁定失败,于是就把互斥量 B 也一起解锁。接着线程1会来锁定互斥量 A。此时也不会出现死锁的情况。

4.固定顺序锁定

这种方式就是让线程1和线程2都按照相同的顺序锁定互斥量,都按成功锁定互斥量1以后才能去锁定互斥量2 。这样就能保证在一个线程完全离开这些重叠的临界区之前,不会有其他同样需要锁定那些互斥量的线程进入到那里。

(三) 多个互斥量和多个临界区

多个临界区和多个互斥量的情况就要看是否会有冲突的区域,如果出现相互交集的冲突区域,后进临界区的线程就会进入睡眠状态,直到该临界区的线程完成任务以后,再被唤醒。

一般情况下,应该尽量少的使用互斥量。每个互斥量保护的临界区应该在合理范围内并尽量大。但是如果发现多个线程会频繁出入某个较大的临界区,并且它们之间经常存在访问冲突,那么就应该把这个较大的临界区划分的更小一点,并使用不同的互斥量保护起来。这样做的目的就是为了让等待进入同一个临界区的线程数变少,从而降低线程被阻塞的概率,并减少它们被迫进入睡眠状态的时间,这从一定程度上提高了程序的整体性能。

在说另外一个线程同步的方法之前,回答一下文章开头留下的一个疑问:可重入只是线程安全的充分不必要条件,并不是充要条件。这个反例在下面会讲到。

这个问题最关键的一点在于:mutex 是不可重入的。

举个例子:

在下面这段代码中,函数 increment_counter 是线程安全的,但不是可重入的。

C

#include

intincrement_counter() 

{

staticintcounter=0;

staticpthread_mutex_tmutex=PTHREAD_MUTEX_INITIALIZER;

pthread_mutex_lock(&mutex);

// only allow one thread to increment at a time

++counter;

// store value before any other threads increment it further

intresult=counter;

pthread_mutex_unlock(&mutex);

returnresult;

}

上面的代码中,函数 increment_counter 可以在多个线程中被调用,因为有一个互斥锁 mutex 来同步对共享变量 counter 的访问。但是如果这个函数用在可重入的中断处理程序中,如果在 pthread_mutex_lock(&mutex) 和

pthread_mutex_unlock(&mutex) 之间产生另一个调用函数 increment_counter 的中断,则会第二次执行此函数,此时由于 mutex 已被 lock,函数会在 pthread_mutex_lock(&mutex) 处阻塞,并且由于 mutex 没有机会被 unlock,阻塞会永远持续下去。简言之,问题在于pthread的 mutex 是不可重入的。

解决办法是设定 PTHREAD_MUTEX_RECURSIVE 属性。然而对于给出的问题而言,专门使用一个 mutex 来保护一次简单的增量操作显然过于昂贵,因此c++11中的原子变量提供了一个可使此函数既线程安全又可重入(而且还更简洁)的替代方案:

C

#include

intincrement_counter() 

{

staticstd::atomiccounter(0);

// increment is guaranteed to be done atomically

intresult=++counter;

returnresult;

}

在 Go 中,互斥量在标准库代码包 sync 中的 Mutex 结构体表示的。sync.Mutex 类型只有两个公开的指针方法,Lock 和 Unlock。前者用于锁定当前的互斥量,后者则用于对当前的互斥量进行解锁。

2. 条件变量

在线程同步的方法中,还有一个可以与互斥量相提并论的同步方法,条件变量。

条件变量与互斥量不同,条件变量的作用并不是保证在同一时刻仅有一个线程访问某一个共享数据,而是在对应的共享数据的状态发生变化时,通知其他因此而被阻塞的线程。条件变量总是与互斥变量组合使用的。

这类问题其实很常见。先用生产者消费者的例子来举例。

如果不用条件变量,只用互斥量,来看看会发生什么后果。

生产者线程在完成添加操作之前,其他的生产者线程和消费者线程都无法进行操作。同一个商品也只能被一个消费者消费。

如果只用互斥量,可能会出现2个问题。

1.生产者线程获得了互斥量以后,却发现商品已满,无法再添加新的商品了。于是该线程就会一直等待。新的生产者也进入不了临界区,消费者也无法进入。这时候就死锁了。

2.消费者线程获得了互斥量以后,却发现商品是空的,无法消费了。这个时候该线程也是会一直等待。新的生产者和消费者也都无法进入。这时候同样也死锁了。

这就是只用互斥量无法解决的问题。在多个线程之间,急需一套同步的机制,能让这些线程都协作起来。

条件变量就是大家熟悉的 P - V 操作了。这块大家应该比较熟悉,所以简单的过一下。

P 操作就是 wait 操作,它的意思就是阻塞当前线程,直到收到该条件变量发来的通知。

V 操作就是 signal 操作,它的意思就是让该条件变量向至少一个正在等待它通知的线程发送通知,以表示某个共享数据的状态已经变化。

Broadcast 广播通知,它的意思就是让条件变量给正在等待它通知的所有线程发送通知,以表示某个共享数据的状态已经发生改变。

signal 可以操作多次,如果操作3次,就代表发了3次信号通知。如上图。

P - V 操作设计美妙之处在于,P 操作的次数与 V 操作的次数是相同的。wait 多少次,signal 对应的有多少次。看上图,这个循环就是这么的奇妙。

生产者消费者问题

这个问题可以形象的描述成像上图这样,门卫守护着临界区的安全。售票厅记录着当前 semaphone 的值,它也控制着门卫是否打开临界区。

临界区只允许一个线程进入,当已经有一个线程了,再来一个线程,就会被 lock 住。售票厅也会记录当前阻塞的线程数。

当之前的线程离开以后,售票厅就会告诉门卫,允许一个线程进入临界区。

用 P-V 伪代码来描述生产者消费者:

初始变量:

C

semaphore  mutex=1;// 临界区互斥信号量 

semaphore  empty=n;// 空闲缓冲区个数 

semaphore  full=0;// 缓冲区初始化为空

生产者线程:

C

producer()

{

while(1){

produce an item in nextp;

P(empty);

P(mutex);

add nextp to buffer;

V(mutex);

V(full);

}

}

消费者线程:

C

consumer()

{

while(1){

P(full);

P(mutex);

remove an item from buffer;

V(mutex);

V(empty);

consume the item;

}

}

虽然在生产者和消费者单个程序里面 P,V 并不是成对的,但是整个程序里面 P,V 还是成对的。

读者写者问题——读者优先,写者延迟

读者优先,写进程被延迟。只要有读者在读,后来的读者都可以随意进来读。

读者要先进入 rmutex ,查看 readcount,然后修改 readcout 的值,最后再去读数据。对于每个读进程都是写者,都要进去修改 readcount 的值,所以还要单独设置一个 rmutex 互斥访问。

初始变量:

C

intreadcount=0;// 读者数量 

semaphore  rmutex=1;// 保证更新 readcount 互斥 

semaphore  wmutex=1;// 保证读者和写着互斥的访问文件

读者线程:

C

reader()

{

while(1){

P(rmutex);// 准备进入,修改 readcount,“开门”

if(readcount==0){// 说明是第一个读者

P(wmutex);// 拿到”钥匙”,阻止写线程来写

}

readcount++;

V(rmutex);

reading;

P(rmutex);// 准备离开

readcount--;

if(readcount==0){// 说明是最后一个读者

V(wmutex);// 交出”钥匙”,让写线程来写

}

V(rmutex);// 离开,“关门”

}

}

写者线程:

C

writer()

{

while(1){

P(wmutex);

writing;

V(wmutex);

}

}

读者写者问题——写者优先,读者延迟

有写者写,禁止后面的读者来读。在写者前的读者,读完就走。只要有写者在等待,禁止后来的读者进去读。

初始变量:

C

intreadcount=0;// 读者数量 

semaphore  rmutex=1;// 保证更新 readcount 互斥 

semaphore  wmutex=1;// 保证读者和写着互斥的访问文件 

semaphore  w=1;// 用于实现“写者优先”

读者线程:

C

reader()

{

while(1){

P(w);// 在没有写者的时候才能请求进入

P(rmutex);// 准备进入,修改 readcount,“开门”

if(readcount==0){// 说明是第一个读者

P(wmutex);// 拿到”钥匙”,阻止写线程来写

}

readcount++;

V(rmutex);

V(w);

reading;

P(rmutex);// 准备离开

readcount--;

if(readcount==0){// 说明是最后一个读者

V(wmutex);// 交出”钥匙”,让写线程来写

}

V(rmutex);// 离开,“关门”

}

}

写者线程:

C

writer()

{

while(1){

P(w);

P(wmutex);

writing;

V(wmutex);

V(w);

}

}

哲学家进餐问题

假设有五位哲学家围坐在一张圆形餐桌旁,做以下两件事情之一:吃饭,或者思考。吃东西的时候,他们就停止思考,思考的时候也停止吃东西。餐桌中间有一大碗意大利面,每两个哲学家之间有一只餐叉。因为用一只餐叉很难吃到意大利面,所以假设哲学家必须用两只餐叉吃东西。他们只能使用自己左右手边的那两只餐叉。哲学家就餐问题有时也用米饭和筷子而不是意大利面和餐叉来描述,因为很明显,吃米饭必须用两根筷子。

初始变量:

C

semaphore  chopstick[5]={1,1,1,1,1};// 初始化信号量 

semaphore  mutex=1;// 设置取筷子的信号量

哲学家线程:

C

Pi()

{

do{

P(mutex);// 获得取筷子的互斥量

P(chopstick[i]);// 取左边的筷子

P(chopstick[(i+1)%5]);// 取右边的筷子

V(mutex);// 释放取筷子的信号量

eat;

V(chopstick[i]);// 放回左边的筷子

V(chopstick[(i+1)%5]);// 放回右边的筷子

think;

}while(1);

}

综上所述,互斥量可以实现对临界区的保护,并会阻止竞态条件的发生。条件变量作为补充手段,可以让多方协作更加有效率。

在 Go 的标准库中,sync 包里面 sync.Cond 类型代表了条件变量。但是和互斥锁和读写锁不同的是,简单的声明无法创建出一个可用的条件变量,还需要用到 sync.NewCond 函数。

Go

func NewCond( l locker) *Cond

*sync.Cond 类型的方法集合中有3个方法,即 Wait、Signal 和 Broadcast 。

二. 简单的线程锁方案

实现线程安全的方案最简单的方法就是加锁了。

先看看 OC 中如何实现一个线程安全的字典吧。

在 Weex 的源码中,就实现了一套线程安全的字典。类名叫 WXThreadSafeMutableDictionary。

Objective-C

/**

*  @abstract Thread safe NSMutableDictionary

*/

@interfaceWXThreadSafeMutableDictionary :NSMutableDictionary

@property(nonatomic,strong)dispatch_queue_tqueue;

@property(nonatomic,strong)NSMutableDictionary*dict;

@end

具体实现如下:

Objective-C

-(instancetype)initCommon

{

self=[superinit];

if(self){

NSString*uuid=[NSStringstringWithFormat:@"com.taobao.weex.dictionary_%p",self];

_queue=dispatch_queue_create([uuid UTF8String],DISPATCH_QUEUE_CONCURRENT);

}

returnself;

}

该线程安全的字典初始化的时候会新建一个并发的 queue。

Objective-C

-(NSUInteger)count

{

__blockNSUIntegercount;

dispatch_sync(_queue,^{

count=_dict.count;

});

returncount;

}

-(id)objectForKey:(id)aKey

{

__blockidobj;

dispatch_sync(_queue,^{

obj=_dict[aKey];

});

returnobj;

}

-(NSEnumerator*)keyEnumerator

{

__blockNSEnumerator*enu;

dispatch_sync(_queue,^{

enu=[_dict keyEnumerator];

});

returnenu;

}

-(id)copy{

__blockidcopyInstance;

dispatch_sync(_queue,^{

copyInstance=[_dictcopy];

});

returncopyInstance;

}

读取的这些方法都用 dispatch_sync 。

Objective-C

-(void)setObject:(id)anObject forKey:(id)aKey

{

aKey=[aKey copyWithZone:NULL];

dispatch_barrier_async(_queue,^{

_dict[aKey]=anObject;

});

}

-(void)removeObjectForKey:(id)aKey

{

dispatch_barrier_async(_queue,^{

[_dict removeObjectForKey:aKey];

});

}

-(void)removeAllObjects{

dispatch_barrier_async(_queue,^{

[_dict removeAllObjects];

});

}

和写入相关的方法都用 dispatch_barrier_async。

再看看 Go 用互斥量如何实现一个简单的线程安全的 Map 吧。

既然要用到互斥量,那么我们封装一个包含互斥量的 Map 。

Go

typeMyMapstruct{

sync.Mutex

mmap[int]int

}

varmyMap*MyMap

func init(){

myMap=&MyMap{

m:make(map[int]int,100),

}

}

再简单的实现 Map 的基础方法。

Go

func builtinMapStore(k, v int){

myMap.Lock()

defermyMap.Unlock()

myMap.m[k]=v

}

func builtinMapLookup(k int) int{

myMap.Lock()

defermyMap.Unlock()

ifv,ok:=myMap.m[k];!ok{

return-1

}else{

returnv

}

}

func builtinMapDelete(k int){

myMap.Lock()

defermyMap.Unlock()

if_,ok:=myMap.m[k];!ok{

return

}else{

delete(myMap.m,k)

}

}

实现思想比较简单,在每个操作前都加上 lock,在每个函数结束 defer 的时候都加上 unlock。

这种加锁的方式实现的线程安全的字典,优点是比较简单,缺点是性能不高。文章最后会进行几种实现方法的性能对比,用数字说话,就知道这种基于互斥量加锁方式实现的性能有多差了。

在语言原生就自带线程安全 Map 的语言中,它们的原生底层实现都不是通过单纯的加锁来实现线程安全的,比如 Java 的 ConcurrentHashMap,Go 1.9 新加的 sync.map。

三. 现代线程安全的 Lock - Free 方案 CAS

在 Java 的 ConcurrentHashMap 底层实现中大量的利用了 volatile,final,CAS 等 Lock-Free 技术来减少锁竞争对于性能的影响。

在 Go 中也大量的使用了原子操作,CAS 是其中之一。比较并交换即 “Compare And Swap”,简称 CAS。

Go

func CompareAndSwapInt32(addr *int32, old, new int32) (swapped bool)

func CompareAndSwapInt64(addr *int64, old, new int64) (swapped bool)

func CompareAndSwapUint32(addr *uint32, old, new uint32) (swapped bool)

func CompareAndSwapUint64(addr *uint64, old, new uint64) (swapped bool)

func CompareAndSwapUintptr(addr *uintptr, old, new uintptr) (swapped bool)

func CompareAndSwapPointer(addr *unsafe.Pointer, old, new unsafe.Pointer) (swapped bool)

CAS 会先判断参数 addr 指向的被操作值与参数 old 的值是否相等。如果相当,相应的函数才会用参数 new 代表的新值替换旧值。否则,替换操作就会被忽略。

这一点与互斥锁明显不同,CAS 总是假设被操作的值未曾改变,并一旦确认这个假设成立,就立即进行值的替换。而互斥锁的做法就更加谨慎,总是先假设会有并发的操作修改被操作的值,并需要使用锁将相关操作放入临界区中加以保护。可以说互斥锁的做法趋于悲观,CAS 的做法趋于乐观,类似乐观锁。

CAS 做法最大的优势在于可以不创建互斥量和临界区的情况下,完成并发安全的值替换操作。这样大大的减少了线程同步操作对程序性能的影响。当然 CAS 也有一些缺点,缺点下一章会提到。

接下来看看源码是如何实现的。以下以64位为例,32位类似。

C

TEXT ·CompareAndSwapUintptr(SB),NOSPLIT,$0-25

JMP ·CompareAndSwapUint64(SB)

TEXT ·CompareAndSwapInt64(SB),NOSPLIT,$0-25

JMP ·CompareAndSwapUint64(SB)

TEXT ·CompareAndSwapUint64(SB),NOSPLIT,$0-25

MOVQ    addr+0(FP),BP

MOVQ    old+8(FP),AX

MOVQnew+16(FP),CX

    LOCK

CMPXCHGQ    CX,0(BP)

SETEQ  swapped+24(FP)

    RET

上述实现最关键的一步就是 CMPXCHG。

查询 Intel 的文档

文档上说:

比较 eax 和目的操作数(第一个操作数)的值,如果相同,ZF 标志被设置,同时源操作数(第二个操作)的值被写到目的操作数,否则,清 ZF 标志,并且把目的操作数的值写回 eax。

于是也就得出了 CMPXCHG 的工作原理:

比较 _old 和 (*__ptr) 的值,如果相同,ZF 标志被设置,同时 _new 的值被写到 (*__ptr),否则,清 ZF 标志,并且把 (*__ptr) 的值写回 _old。

在 Intel 平台下,会用 LOCK CMPXCHG 来实现,这里的 LOCK 是 CPU 锁。

Intel 的手册对 LOCK 前缀的说明如下:

1.确保对内存的读-改-写操作原子执行。在 Pentium 及 Pentium 之前的处理器中,带有 LOCK 前缀的指令在执行期间会锁住总线,使得其他处理器暂时无法通过总线访问内存。很显然,这会带来昂贵的开销。从 Pentium 4,Intel Xeon 及 P6 处理器开始,Intel 在原有总线锁的基础上做了一个很有意义的优化:如果要访问的内存区域(area of memory)在 LOCK 前缀指令执行期间已经在处理器内部的缓存中被锁定(即包含该内存区域的缓存行当前处于独占或以修改状态),并且该内存区域被完全包含在单个缓存行(cache line)中,那么处理器将直接执行该指令。由于在指令执行期间该缓存行会一直被锁定,其它处理器无法读/写该指令要访问的内存区域,因此能保证指令执行的原子性。这个操作过程叫做缓存锁定(cache locking),缓存锁定将大大降低 LOCK 前缀指令的执行开销,但是当多处理器之间的竞争程度很高或者指令访问的内存地址未对齐时,仍然会锁住总线。

2.禁止该指令与之前和之后的读和写指令重排序。

3.把写缓冲区中的所有数据刷新到内存中。

看完描述,可以看出,CPU 锁主要分两种,总线锁和缓存锁。总线锁用在老的 CPU 中,缓存锁用在新的 CPU 中。

所谓总线锁就是使用 CPU 提供的一个LOCK#信号,当一个处理器在总线上输出此信号时,其他处理器的请求将被阻塞住,那么该 CPU 可以独占使用共享内存。总线锁的这种方式,在执行期间会锁住总线,使得其他处理器暂时无法通过总线访问内存。所以总线锁定的开销比较大,最新的处理器在某些场合下使用缓存锁定代替总线锁定来进行优化。

所谓缓存锁定就是如果缓存在处理器缓存行中内存区域在 LOCK 操作期间被锁定,当它执行锁操作回写内存时,处理器不在总线上产生 LOCK#信号,而是修改内部的内存地址,并允许它的缓存一致性机制来保证操作的原子性,因为缓存一致性机制会阻止同时修改被两个以上处理器缓存的内存区域数据,当其他处理器回写已被锁定的缓存行的数据时会对缓存行无效。

有两种情况处理器无法使用缓存锁。

第一种情况是,当操作的数据不能被缓存在处理器内部,或操作的数据跨多个缓存行(cache line),则处理器会调用总线锁定。

第二种情况是:有些处理器不支持缓存锁定。一些老的 CPU 就算锁定的内存区域在处理器的缓存行中也会调用总线锁定。

虽然缓存锁可以大大降低 CPU 锁的执行开销,但是如果遇到多处理器之间的竞争程度很高或者指令访问的内存地址未对齐时,仍然会锁住总线。所以缓存锁和总线锁相互配合,效果更佳。

综上,用 CAS 方式来保证线程安全的方式就比用互斥锁的方式效率要高很多。

四. CAS 的缺陷

虽然 CAS 的效率高,但是依旧存在3大问题。

1. ABA 问题

线程1准备用 CAS 将变量的值由 A 替换为 B ,在此之前,线程2将变量的值由 A 替换为 C ,又由 C 替换为 A,然后线程1执行 CAS 时发现变量的值仍然为 A,所以 CAS 成功。但实际上这时的现场已经和最初不同了。图上也为了分开两个 A 不同,所以用不同的颜色标记了。最终线程2把 A 替换成了 B 。这就是经典的 ABA 问题。但是这会导致项目出现什么问题呢?

设想存在这样一个链栈,栈里面存储了一个链表,栈顶是 A,A 的 next 指针指向 B。在线程1中,要将栈顶元素 A 用 CAS 把它替换成 B。接着线程2来了,线程2将之前包含 A,B 元素的链表都 pop 出去。然后 push 进来一个 A - C - D 链表,栈顶元素依旧是 A。这时线程1发现 A 没有发生变化,于是替换成 B。这个时候 B 的 next 其实为 nil。替换完成以后,线程2操作的链表 C - D 这里就与表头断开连接了。也就是说线程1 CAS 操作结束,C - D 就被丢失了,再也找不回来了。栈中只剩下 B 一个元素了。这很明显出现了 bug。

那怎么解决这种情况呢?最通用的做法就是加入版本号进行标识。

每次操作都加上版本号,这样就可以完美解决 ABA 的问题了。

2. 循环时间可能过长

自旋 CAS 如果长时间不成功,会给 CPU 带来非常大的执行开销。如果能支持 CPU 提供的 Pause 指令,那么 CAS 的效率能有一定的提升。Pause 指令有两个作用,第一它可以延迟流水线执行指令(de-pipeline),使 CPU 不会消耗过多的执行资源,延迟的时间取决于具体实现的版本,在一些处理器上延迟时间是零。第二它可以避免在退出循环的时候因内存顺序冲突(memory order violation)而引起 CPU 流水线被清空(CPU pipeline flush),从而提高 CPU 的执行效率。

3. 只能保证一个共享变量的原子操作

CAS 操作只能保证一个共享变量的原子操作,但是保证多个共享变量操作的原子性。一般做法可能就考虑利用锁了。

不过也可以利用一个结构体,把两个变量合并成一个变量。这样还可以继续利用 CAS 来保证原子性操作。

五. Lock - Free 方案举例

在 Lock - Free方案举例之前,先来回顾一下互斥量的方案。上面我们用互斥量实现了 Go 的线程安全的 Map。至于这个 Map 的性能如何,接下来对比的时候可以看看数据。

1. NO Lock - Free 方案

如果不用 Lock - Free 方案也不用简单的互斥量的方案,如何实现一个线程安全的字典呢?答案是利用分段锁的设计,只有在同一个分段内才存在竞态关系,不同的分段锁之间没有锁竞争。相比于对整个 Map 加锁的设计,分段锁大大的提高了高并发环境下的处理能力。

Go

typeConcurrentMap[]*ConcurrentMapShared

typeConcurrentMapSharedstruct{

itemsmap[string]interface{}

sync.RWMutex// 读写锁,保证进入内部 map 的线程安全

}

分段锁 Segment 存在一个并发度。并发度可以理解为程序运行时能够同时更新 ConccurentMap 且不产生锁竞争的最大线程数,实际上就是 ConcurrentMap 中的分段锁个数。即数组的长度。

Go

varSHARD_COUNT=32

如果并发度设置的过小,会带来严重的锁竞争问题;如果并发度设置的过大,原本位于同一个 Segment 内的访问会扩散到不同的 Segment 中,CPU cache 命中率会下降,从而引起程序性能下降。

ConcurrentMap 的初始化就是对数组的初始化,并且初始化数组里面每个字典。

Go

func New()ConcurrentMap{

m:=make(ConcurrentMap,SHARD_COUNT)

fori:=0;i

m[i]=&ConcurrentMapShared{items:make(map[string]interface{})}

}

returnm

}

ConcurrentMap 主要使用 Segment 来实现减小锁粒度,把 Map 分割成若干个 Segment,在 put 的时候需要加读写锁,get 时候只加读锁。

既然分段了,那么针对每个 key 对应哪一个段的逻辑就由一个哈希函数来定。

Go

func fnv32(key string) uint32{

hash:=uint32(2166136261)

constprime32=uint32(16777619)

fori:=0;i

hash*=prime32

hash^=uint32(key[i])

}

returnhash

}

上面这段哈希函数会根据每次传入的 string ,计算出不同的哈希值。

Go

func (m ConcurrentMap) GetShard(key string) *ConcurrentMapShared{

returnm[uint(fnv32(key))%uint(SHARD_COUNT)]

}

根据哈希值对数组长度取余,取出 ConcurrentMap 中的 ConcurrentMapShared。在 ConcurrentMapShared 中存储对应这个段的 key - value。

Go

func (m ConcurrentMap) Set(key string, value interface{}){

// Get map shard.

shard:=m.GetShard(key)

shard.Lock()

shard.items[key]=value

shard.Unlock()

}

上面这段就是 ConcurrentMap 的 set 操作。思路很清晰:先取出对应段内的 ConcurrentMapShared,然后再加读写锁锁定,写入 key - value,写入成功以后再释放读写锁。

Go

func (m ConcurrentMap) Get(key string) (interface{}, bool){

// Get shard

shard:=m.GetShard(key)

shard.RLock()

// Get item from shard.

val,ok:=shard.items[key]

shard.RUnlock()

returnval,ok

}

上面这段就是 ConcurrentMap 的 get 操作。思路也很清晰:先取出对应段内的 ConcurrentMapShared,然后再加读锁锁定,读取 key - value,读取成功以后再释放读锁。

这里和 set 操作的区别就在于只需要加读锁即可,不用加读写锁。

Go

func (m ConcurrentMap) Count() int{

count:=0

fori:=0;i

shard:=m[i]

shard.RLock()

count+=len(shard.items)

shard.RUnlock()

}

returncount

}

ConcurrentMap 的 Count 操作就是把 ConcurrentMap 数组的每一个分段元素里面的每一个元素都遍历一遍,计算出总数。

Go

func (m ConcurrentMap) Keys() []string{

count:=m.Count()

ch:=make(chanstring,count)

gofunc(){

// 遍历所有的 shard.

wg:=sync.WaitGroup{}

wg.Add(SHARD_COUNT)

for_,shard:=rangem{

gofunc(shard *ConcurrentMapShared){

// 遍历所有的 key, value 键值对.

shard.RLock()

forkey:=rangeshard.items{

ch<-key

}

shard.RUnlock()

wg.Done()

}(shard)

}

wg.Wait()

close(ch)

}()

// 生成 keys 数组,存储所有的 key

keys:=make([]string,0,count)

fork:=rangech{

keys=append(keys,k)

}

returnkeys

}

上述是返回 ConcurrentMap 中所有 key ,结果装在字符串数组中。

Go

typeUpsertCbfunc(exist bool, valueInMap interface{}, newValue interface{}) interface{}

func (m ConcurrentMap) Upsert(key string, value interface{}, cb UpsertCb) (res interface{}){

shard:=m.GetShard(key)

shard.Lock()

v,ok:=shard.items[key]

res=cb(ok,v,value)

shard.items[key]=res

shard.Unlock()

returnres

}

上述代码是 Upsert 操作。如果已经存在了,就更新。如果是一个新元素,就用 UpsertCb 函数插入一个新的。思路也是先根据 string 找到对应的段,然后加读写锁。这里只能加读写锁,因为不管是 update 还是 insert 操作,都需要写入。读取 key 对应的 value 值,然后调用 UpsertCb 函数,把结果更新到 key 对应的 value 中。最后释放读写锁即可。

UpsertCb 函数在这里值得说明的是,这个函数是回调返回待插入到 map 中的新元素。这个函数当且仅当在读写锁被锁定的时候才会被调用,因此一定不允许再去尝试读取同一个 map 中的其他 key 值。因为这样会导致线程死锁。死锁的原因是 Go 中 sync.RWLock 是不可重入的。

完整的代码见concurrent_map.go

这种分段的方法虽然比单纯的加互斥量好很多,因为 Segment 把锁住的范围进一步的减少了,但是这个范围依旧比较大,还能再进一步的减少锁么?

还有一点就是并发量的设置,要合理,不能太大也不能太小。

2. Lock - Free 方案

在 Go 1.9 的版本中默认就实现了一种线程安全的 Map,摒弃了 Segment(分段锁)的概念,而是启用了一种全新的方式实现,利用了 CAS 算法,即 Lock - Free 方案。

采用 Lock - Free 方案以后,能比上一个分案,分段锁更进一步缩小锁的范围。性能大大提升。

接下来就让我们来看看如何用 CAS 实现一个线程安全的高性能 Map 。

官方是 sync.map 有如下的描述:

这个 Map 是线程安全的,读取,插入,删除也都保持着常数级的时间复杂度。多个 goroutines 协程同时调用 Map 方法也是线程安全的。该 Map 的零值是有效的,并且零值是一个空的 Map 。线程安全的 Map 在第一次使用之后,不允许被拷贝。

这里解释一下为何不能被拷贝。因为对结构体的复制不但会生成该值的副本,还会生成其中字段的副本。如此一来,本应施加于此的并发线程安全保护也就失效了。

作为源值赋给别的变量,作为参数值传入函数,作为结果值从函数返回,作为元素值通过通道传递等都会造成值的复制。正确的做法是用指向该类型的指针类型的变量。

Go 1.9 中 sync.map 的数据结构如下:

Go

typeMapstruct{

    mu Mutex

// 并发读取 map 中一部分的内容是线程安全的,这是不需要

// read 这部分自身读取就是线程安全的,因为是原子性的。但是存储的时候还是需要 Mutex

// 存储在 read 中的 entry 在并发读取过程中是允许更新的,即使没有 Mutex 信号量,也是线程安全的。但是更新一个以前删除的 entry 就需要把值拷贝到 dirty Map 中,并且必须要带上 Mutex

read atomic.Value// readOnly

// dirty 中包含 map 中必须要互斥量 mu 保护才能线程安全的部分。为了使 dirty 能快速的转化成 read map,dirty 中包含了 read map 中所有没有被删除的 entries

// 已经删除过的 entries 不存储在 dirty map 中。在 clean map 中一个已经删除的 entry 一定是没有被删除过的,并且当新值将要被存储的时候,它们会被添加到 dirty map 中。

// 当 dirty map 为 nil 的时候,下一次写入的时候会通过 clean map 忽略掉旧的 entries 以后的浅拷贝副本来初始化 dirty map。

dirtymap[interface{}]*entry

// misses 记录了 read map 因为需要判断 key 是否存在而锁住了互斥量 mu 进行了 update 操作以后的加载次数。

// 一旦 misses 值大到足够去复制 dirty map 所需的花费的时候,那么 dirty map 就被提升到未被修改状态下的 read map,下次存储就会创建一个新的 dirty map。

missesint

}

在这个 Map 中,包含一个互斥量 mu,一个原子值 read,一个非线程安全的字典 map,这个字典的 key 是 interface{} 类型,value 是 *entry 类型。最后还有一个 int 类型的计数器。

先来说说原子值。atomic.Value 这个类型有两个公开的指针方法,Load 和 Store 。Load 方法用于原子地的读取原子值实例中存储的值,它会返回一个 interface{} 类型的结果,并且不接受任何参数。Store 方法用于原子地在原子值实例中存储一个值,它接受一个 interface{} 类型的参数而没有任何结果。在未曾通过 Store 方法向原子值实例存储值之前,它的 Load 方法总会返回 nil。

在这个线程安全的字典中,Load 和 Store 的都是一个 readOnly 的数据结构。

Go

// readOnly 是一个不可变的结构体,原子性的存储在 Map.read 中

typereadOnlystruct{

mmap[interface{}]*entry

// 标志 dirty map 中是否包含一些不在 m 中的 key 。

amendedbool// true if the dirty map contains some key not in m.

}

readOnly 中存储了一个非线程安全的字典,这个字典和上面 dirty map 存储的类型完全一致。key 是 interface{} 类型,value 是 *entry 类型。

Go

// entry 是一个插槽,与 map 中特定的 key 相对应

typeentrystruct{

p unsafe.Pointer// *interface{}

}

p 指针指向 *interface{} 类型,里面存储的是 entry 的地址。如果 p = = nil,代表 entry 被删除了,并且 m.dirty = = nil。如果 p = = expunged,代表 entry 被删除了,并且 m.dirty != nil ,那么 entry 从 m.dirty 中丢失了。

除去以上两种情况外,entry 都是有效的,并且被记录在 m.read.m[key] 中,如果 m.dirty!= nil,entry 被存储在 m.dirty[key] 中。

一个 entry 可以通过原子替换操作成 nil 来删除它。当 m.dirty 在下一次被创建,entry 会被 expunged 指针原子性的替换为 nil,m.dirty[key] 不对应任何 value。只要 p != expunged,那么一个 entry 就可以通过原子替换操作更新关联的 value。如果 p = = expunged,那么一个 entry 想要通过原子替换操作更新关联的 value,只能在首次设置 m.dirty[key] = e 以后才能更新 value。这样做是为了能在 dirty map 中查找到它。

所以从上面分析可以看出,read 中的 key 是 readOnly 的(key 的集合不会变,删除也只是打一个标记),value 的操作全都可以原子完成,所以这个结构不用加锁。dirty 是一个 read 的拷贝,加锁的操作都在这里,如增加元素、删除元素等(dirty上执行删除操作就是真的删除)具体操作见下面分析。

总结一下,sync.map 的数据结构如上。

再看看线程安全的 sync.map 的一些操作。

Go

func (m *Map) Load(key interface{}) (value interface{}, ok bool){

read,_:=m.read.Load().(readOnly)

e,ok:=read.m[key]

// 如果 key 对应的 value 不存在,并且 dirty map 包含 read map 中没有的 key,那么开始读取  dirty map

if!ok&&read.amended{

// dirty map 不是线程安全的,所以需要加上互斥锁

m.mu.Lock()

// 当 m.dirty 被提升的时候,为了防止得到一个虚假的 miss ,所以此时我们加锁。

// 如果再次读取相同的 key 不 miss,那么这个 key 值就就不值得拷贝到 dirty map 中。

read,_=m.read.Load().(readOnly)

e,ok=read.m[key]

if!ok&&read.amended{

e,ok=m.dirty[key]

// 无论 entry 是否存在,记录这次 miss 。

// 这个 key 将会缓慢的被取出,直到 dirty map 提升到 read map

m.missLocked()

}

m.mu.Unlock()

}

if!ok{

returnnil,false

}

returne.load()

}

上述代码是 Load 操作。返回的是入参 key 对应的 value 值。如果 value 不存在就返回 nil。dirty map 中会保存一些 read map 里面不存在的 key,那么就要读取出 dirty map 里面 key 对应的 value。注意读取的时候需要加互斥锁,因为 dirty map 是非线程安全的。

Go

func (m *Map) missLocked(){

m.misses++

ifm.misses

return

}

m.read.Store(readOnly{m:m.dirty})

m.dirty=nil

m.misses=0

}

上面这段代码是记录 misses 次数的。只有当 misses 个数大于 dirty map 的长度的时候,会把 dirty map 存储到 read map 中。并且把 dirty 置空,misses 次数也清零。

在看 Store 操作之前,先说一个 expunged 变量。

Go

// expunged 是一个指向任意类型的指针,用来标记从 dirty map 中删除的 entry

varexpunged=unsafe.Pointer(new(interface{}))

expunged 变量是一个指针,用来标记从 dirty map 中删除的 entry。

Go

func (m *Map) Store(key, value interface{}){

read,_:=m.read.Load().(readOnly)

// 从 read map 中读取 key 失败或者取出的 entry 尝试存储 value 失败,直接返回

ife,ok:=read.m[key];ok&&e.tryStore(&value){

return

}

m.mu.Lock()

read,_=m.read.Load().(readOnly)

ife,ok:=read.m[key];ok{

// e 指向的是非 nil 的

ife.unexpungeLocked(){

// entry 先前被删除了,这就意味着存在一个非空的 dirty map 里面并没有存储这个 entry

m.dirty[key]=e

}

// 使用 storeLocked 函数之前,必须保证 e 没有被清除

e.storeLocked(&value)

}elseife,ok:=m.dirty[key];ok{

// 已经存储在 dirty map 中了,代表 e 没有被清除

e.storeLocked(&value)

}else{

if!read.amended{

// 到这个 else 中就意味着,当前的 key 是第一次被加到 dirty map 中。

// store 之前先判断一下 dirty map 是否为空,如果为空,就把 read map 浅拷贝一次。

m.dirtyLocked()

m.read.Store(readOnly{m:read.m,amended:true})

}

// 在 dirty 中存储 value

m.dirty[key]=newEntry(value)

}

m.mu.Unlock()

}

Store 优先从 read map 里面去读取 key ,然后存储它的 value。如果 entry 是被标记为从 dirty map 中删除过的,那么还需要重新存储回 dirty map中。

如果 read map 里面没有相应的 key,就去 dirty map 里面去读取。dirty map 就直接存储对应的 value。

最后如何 read map 和 dirty map 都没有这个 key 值,这就意味着该 key 是第一次被加入到 dirty map 中。在 dirty map 中存储这个 key 以及对应的 value。

Go

// 当 entry 没有被删除的情况下去存储一个 value。

// 如果 entry 被删除了,tryStore 方法返回 false,并且保留 entry 不变

func (e *entry) tryStore(i *interface{}) bool{

p:=atomic.LoadPointer(&e.p)

ifp==expunged{

returnfalse

}

for{

ifatomic.CompareAndSwapPointer(&e.p,p,unsafe.Pointer(i)){

returntrue

}

p=atomic.LoadPointer(&e.p)

ifp==expunged{

returnfalse

}

}

}

tryStore 函数的实现和 CAS 原理差不多,它会反复的循环判断 entry 是否被标记成了 expunged,如果 entry 经过 CAS 操作成功的替换成了 i,那么就返回 true,反之如果被标记成了 expunged,就返回 false。

Go

// unexpungeLocked 函数确保了 entry 没有被标记成已被清除。

// 如果 entry 先前被清除过了,那么在 mutex 解锁之前,它一定要被加入到 dirty map 中

func (e *entry) unexpungeLocked() (wasExpunged bool){

returnatomic.CompareAndSwapPointer(&e.p,expunged,nil)

}

如果 entry 的 unexpungeLocked 返回为 true,那么就说明 entry 已经被标记成了 expunged,那么它就会经过 CAS 操作把它置为 nil。

再来看看删除操作的实现。

Go

func (m *Map) Delete(key interface{}){

read,_:=m.read.Load().(readOnly)

e,ok:=read.m[key]

if!ok&&read.amended{

// 由于 dirty map 是非线程安全的,所以操作前要加锁

m.mu.Lock()

read,_=m.read.Load().(readOnly)

e,ok=read.m[key]

if!ok&&read.amended{

// 删除 dirty map 中的 key

delete(m.dirty,key)

}

m.mu.Unlock()

}

ifok{

e.delete()

}

}

delete 操作的实现比较简单,如果 read map 中存在 key,就可以直接删除,如果不存在 key 并且 dirty map 中有这个 key,那么就要删除 dirty map 中的这个 key。操作 dirty map 的时候记得先加上锁进行保护。

Go

func (e *entry) delete() (hadValue bool){

for{

p:=atomic.LoadPointer(&e.p)

ifp==nil||p==expunged{

returnfalse

}

ifatomic.CompareAndSwapPointer(&e.p,p,nil){

returntrue

}

}

}

删除 entry 具体的实现如上。这个操作里面都是原子性操作。循环判断 entry 是否为 nil 或者已经被标记成了 expunged,如果是这种情况就返回 false,代表删除失败。否则就 CAS 操作,将 entry 的 p 指针置为 nil,并返回 true,代表删除成功。

至此,关于 Go 1.9 中自带的线程安全的 sync.map 的实现就分析完了。官方的实现里面基本没有用到锁,互斥量的 lock 也是基于 CAS的。read map 也是原子性的。所以比之前加锁的实现版本性能有所提升。

如果 read 中的一个 key 被删除了,即被打了 expunged 标记,然后如果再添加相同的 key,不需要操作 dirty,直接恢复回来就可以了。

如果 dirty 没有任何数据的时候,删除了 read 中的 key,同样也是加上 expunged 标记,再添加另外一个不同的 key,dirtyLocked() 函数会把 read 中所有已经有的 key-value 全部都拷贝到 dirty 中保存,并再追加上 read 中最后添加上的和之前删掉不同的 key。

这就等同于:

当 dirty 不存在的时候,read 就是全部 map 的数据。

当 dirty 存在的时候,dirty 才是正确的 map 数据。

从 sync.map 的实现中我们可以看出,它的思想重点在读取是无锁的。字典大部分操作也都是读取,多个读者之间是可以无锁的。当 read 中的数据 miss 到一定程度的时候,(有点命中缓存的意思),就会考虑直接把 dirty 替换成 read,整个一个赋值替换就可以了。但是在 dirty 重新生成新的时候,或者说第一个 dirty 生成的时候,还是需要遍历整个 read,这里会消耗很多性能,那官方的这个 sync.map 的性能究竟是怎么样的呢?

究竟 Lock - Free 的性能有多强呢?接下来做一下性能测试。

五. 性能对比

性能测试主要针对3个方面,Insert,Get,Delete。测试对象主要针对简单加互斥锁的原生 Map ,分段加锁的 Map,Lock - Free 的 Map 这三种进行性能测试。

性能测试的所有代码已经放在 github 了,地址在这里,性能测试用的指令是:

Go

gotest-v-run=^$-bench.-benchmem

1. 插入 Insert 性能测试

Go

// 插入不存在的 key (粗糙的锁)

func BenchmarkSingleInsertAbsentBuiltInMap(b *testing.B){

myMap=&MyMap{

m:make(map[string]interface{},32),

}

b.ResetTimer()

fori:=0;i

myMap.BuiltinMapStore(strconv.Itoa(i),"value")

}

}

// 插入不存在的 key (分段锁)

func BenchmarkSingleInsertAbsent(b *testing.B){

m:=New()

b.ResetTimer()

fori:=0;i

m.Set(strconv.Itoa(i),"value")

}

}

// 插入不存在的 key (syncMap)

func BenchmarkSingleInsertAbsentSyncMap(b *testing.B){

syncMap:=&sync.Map{}

b.ResetTimer()

fori:=0;i

syncMap.Store(strconv.Itoa(i),"value")

}

}

测试结果:

Go

BenchmarkSingleInsertAbsentBuiltInMap-42000000857ns/op170B/op1allocs/op

BenchmarkSingleInsertAbsent-42000000651ns/op170B/op1allocs/op

BenchmarkSingleInsertAbsentSyncMap-410000001094ns/op187B/op5allocs/op

实验结果是分段锁的性能最高。这里说明一下测试结果,-4代表测试用了4核 CPU ,2000000 代表循环次数,857 ns/op 代表的是平均每次执行花费的时间,170 B/op 代表的是每次执行堆上分配内存总数,allocs/op 代表的是每次执行堆上分配内存次数。

这样看来,循环次数越多,花费时间越少,分配内存总数越小,分配内存次数越少,性能就越好。下面的性能图表中去除掉了第一列循环次数,只花了剩下的3项,所以条形图越短的性能越好。以下的每张条形图的规则和测试结果代表的意义都和这里一样,下面就不再赘述了。

Go

// 插入存在 key (粗糙锁)

func BenchmarkSingleInsertPresentBuiltInMap(b *testing.B){

myMap=&MyMap{

m:make(map[string]interface{},32),

}

myMap.BuiltinMapStore("key","value")

b.ResetTimer()

fori:=0;i

myMap.BuiltinMapStore("key","value")

}

}

// 插入存在 key (分段锁)

func BenchmarkSingleInsertPresent(b *testing.B){

m:=New()

m.Set("key","value")

b.ResetTimer()

fori:=0;i

m.Set("key","value")

}

}

// 插入存在 key (syncMap)

func BenchmarkSingleInsertPresentSyncMap(b *testing.B){

syncMap:=&sync.Map{}

syncMap.Store("key","value")

b.ResetTimer()

fori:=0;i

syncMap.Store("key","value")

}

}

测试结果:

Go

BenchmarkSingleInsertPresentBuiltInMap-42000000074.6ns/op0B/op0allocs/op

BenchmarkSingleInsertPresent-42000000061.1ns/op0B/op0allocs/op

BenchmarkSingleInsertPresentSyncMap-420000000108ns/op16B/op1allocs/op

从图中可以看出,sync.map 在涉及到 Store 这一项的均比其他两者的性能差。不管插入不存在的 Key 还是存在的 Key,分段锁的性能均是目前最好的。

2. 读取 Get 性能测试

Go

// 读取存在 key (粗糙锁)

func BenchmarkSingleGetPresentBuiltInMap(b *testing.B){

myMap=&MyMap{

m:make(map[string]interface{},32),

}

myMap.BuiltinMapStore("key","value")

b.ResetTimer()

fori:=0;i

myMap.BuiltinMapLookup("key")

}

}

// 读取存在 key (分段锁)

func BenchmarkSingleGetPresent(b *testing.B){

m:=New()

m.Set("key","value")

b.ResetTimer()

fori:=0;i

m.Get("key")

}

}

// 读取存在 key (syncMap)

func BenchmarkSingleGetPresentSyncMap(b *testing.B){

syncMap:=&sync.Map{}

syncMap.Store("key","value")

b.ResetTimer()

fori:=0;i

syncMap.Load("key")

}

}

测试结果:

Go

BenchmarkSingleGetPresentBuiltInMap-42000000071.5ns/op0B/op0allocs/op

BenchmarkSingleGetPresent-43000000042.3ns/op0B/op0allocs/op

BenchmarkSingleGetPresentSyncMap-43000000040.3ns/op0B/op0allocs/op

从图中可以看出,sync.map 在 Load 这一项的性能非常优秀,远高于其他两者。

3. 并发插入读取混合性能测试

接下来的实现就涉及到了并发插入和读取了。由于分段锁实现的特殊性,分段个数会多多少少影响到性能,那么接下来的实验就会对分段锁分1,16,32,256 这4段进行测试,分别看看性能变化如何,其他两种线程安全的 Map 不变。

由于并发的代码太多了,这里就不贴出来了,感兴趣的同学可以看这里

下面就直接放出测试结果:

并发插入不存在的 Key 值

Go

BenchmarkMultiInsertDifferentBuiltInMap-410000002359ns/op330B/op11allocs/op

BenchmarkMultiInsertDifferent_1_Shard-410000002039ns/op330B/op11allocs/op

BenchmarkMultiInsertDifferent_16_Shard-410000001937ns/op330B/op11allocs/op

BenchmarkMultiInsertDifferent_32_Shard-410000001944ns/op330B/op11allocs/op

BenchmarkMultiInsertDifferent_256_Shard-410000001991ns/op331B/op11allocs/op

BenchmarkMultiInsertDifferentSyncMap-410000003760ns/op635B/op33allocs/op

从图中可以看出,sync.map 在涉及到 Store 这一项的均比其他两者的性能差。并发插入不存在的 Key,分段锁划分的 Segment 多少与性能没有关系。

并发插入存在的 Key 值

Go

BenchmarkMultiInsertSameBuiltInMap-410000001182ns/op160B/op10allocs/op

BenchmarkMultiInsertSame-410000001091ns/op160B/op10allocs/op

BenchmarkMultiInsertSameSyncMap-410000001809ns/op480B/op30allocs/op

从图中可以看出,sync.map 在涉及到 Store 这一项的均比其他两者的性能差。

并发的读取存在的 Key 值

Go

BenchmarkMultiGetSameBuiltInMap-42000000767ns/op0B/op0allocs/op

BenchmarkMultiGetSame-43000000481ns/op0B/op0allocs/op

BenchmarkMultiGetSameSyncMap-43000000464ns/op0B/op0allocs/op

从图中可以看出,sync.map 在 Load 这一项的性能远超多其他两者。

并发插入读取不存在的 Key 值

Go

BenchmarkMultiGetSetDifferentBuiltInMap-410000003281ns/op337B/op12allocs/op

BenchmarkMultiGetSetDifferent_1_Shard-410000003007ns/op338B/op12allocs/op

BenchmarkMultiGetSetDifferent_16_Shard-45000002662ns/op337B/op12allocs/op

BenchmarkMultiGetSetDifferent_32_Shard-410000002732ns/op337B/op12allocs/op

BenchmarkMultiGetSetDifferent_256_Shard-410000002788ns/op339B/op12allocs/op

BenchmarkMultiGetSetDifferentSyncMap-43000008990ns/op1104B/op34allocs/op

从图中可以看出,sync.map 在涉及到 Store 这一项的均比其他两者的性能差。并发插入读取不存在的 Key,分段锁划分的 Segment 多少与性能没有关系。

并发插入读取存在的 Key 值

Go

BenchmarkMultiGetSetBlockBuiltInMap-410000002095ns/op160B/op10allocs/op

BenchmarkMultiGetSetBlock_1_Shard-410000001712ns/op160B/op10allocs/op

BenchmarkMultiGetSetBlock_16_Shard-410000001730ns/op160B/op10allocs/op

BenchmarkMultiGetSetBlock_32_Shard-410000001645ns/op160B/op10allocs/op

BenchmarkMultiGetSetBlock_256_Shard-410000001619ns/op160B/op10allocs/op

BenchmarkMultiGetSetBlockSyncMap-45000002660ns/op480B/op30allocs/op

从图中可以看出,sync.map 在涉及到 Store 这一项的均比其他两者的性能差。并发插入读取存在的 Key,分段锁划分的 Segment 越小,性能越好!

4. 删除 Delete 性能测试

Go

// 删除存在 key (粗糙锁)

func BenchmarkDeleteBuiltInMap(b *testing.B){

myMap=&MyMap{

m:make(map[string]interface{},32),

}

b.RunParallel(func(pb *testing.PB){

r:=rand.New(rand.NewSource(time.Now().Unix()))

forpb.Next(){

// The loop body is executed b.N times total across all goroutines.

k:=r.Intn(100000000)

myMap.BuiltinMapDelete(strconv.Itoa(k))

}

})

}

// 删除存在 key (分段锁)

func BenchmarkDelete(b *testing.B){

m:=New()

b.RunParallel(func(pb *testing.PB){

r:=rand.New(rand.NewSource(time.Now().Unix()))

forpb.Next(){

// The loop body is executed b.N times total across all goroutines.

k:=r.Intn(100000000)

m.Remove(strconv.Itoa(k))

}

})

}

// 删除存在 key (syncMap)

func BenchmarkDeleteSyncMap(b *testing.B){

syncMap:=&sync.Map{}

b.RunParallel(func(pb *testing.PB){

r:=rand.New(rand.NewSource(time.Now().Unix()))

forpb.Next(){

// The loop body is executed b.N times total across all goroutines.

k:=r.Intn(100000000)

syncMap.Delete(strconv.Itoa(k))

}

})

}

测试结果:

Go

BenchmarkDeleteBuiltInMap-410000000130ns/op8B/op1allocs/op

BenchmarkDelete-42000000076.7ns/op8B/op1allocs/op

BenchmarkDeleteSyncMap-43000000045.4ns/op8B/op0allocs/op

从图中可以看出,sync.map 在 Delete 这一项是完美的超过其他两者的。

六. 总结

本文从线程安全理论基础开始讲了线程安全中一些处理方法。其中涉及到互斥量和条件变量相关知识。从 Lock 的方案谈到了 Lock - Free 的 CAS 相关方案。最后针对 Go 1.9 新加的 sync.map 进行了源码分析和性能测试。

采用了 Lock - Free 方案的 sync.map 测试结果并没有想象中的那么出色。除了 Load 和 Delete 这两项远远甩开其他两者,凡是涉及到 Store 相关操作的性能均低于其他两者 Map 的实现。不过这也是有原因的。

纵观 Java ConcurrentHashmap 一路的变化:

JDK 6,7 中的 ConcurrentHashmap 主要使用 Segment 来实现减小锁粒度,把 HashMap 分割成若干个 Segment,在 put 的时候需要锁住 Segment,get 时候不加锁,使用 volatile 来保证可见性,当要统计全局时(比如size),首先会尝试多次计算 modcount 来确定,这几次尝试中,是否有其他线程进行了修改操作,如果没有,则直接返回 size。如果有,则需要依次锁住所有的 Segment 来计算。

JDK 7 中 ConcurrentHashmap 中,当长度过长碰撞会很频繁,链表的增改删查操作都会消耗很长的时间,影响性能,所以 JDK8 中完全重写了concurrentHashmap,代码量从原来的1000多行变成了 6000多行,实现上也和原来的分段式存储有很大的区别。

JDK 8 的 ConcurrentHashmap 主要设计上的变化有以下几点:

不采用 Segment 而采用 node,锁住 node 来实现减小锁粒度。

设计了 MOVED 状态 当 Resize 的中过程中线程2还在 put 数据,线程2会帮助 resize。

使用3个 CAS 操作来确保 node 的一些操作的原子性,这种方式代替了锁。

sizeCtl 的不同值来代表不同含义,起到了控制的作用。

可见 Go 1.9 一上来第一个版本就直接摒弃了 Segment 的做法,采取了 CAS 这种 Lock - Free 的方案提高性能。但是它并没有对整个字典进行类似 Java 的 Node 的设计。但是整个 sync.map 在 ns/op ,B/op,allocs/op 这三个性能指标上是普通原生非线程安全 Map 的三倍!

不过相信 Google 应该还会继续优化这部分吧,毕竟源码里面还有几处 TODO 呢,让我们一起其他 Go 未来版本的发展吧,笔者也会一直持续关注的。

(在本篇文章截稿的时候,笔者又突然发现了一种分段锁的 Map 实现,性能更高,它具有负载均衡等特点,应该是目前笔者见到的性能最好的 Go 语言实现的线程安全的 Map ,关于它的实现源码分析就只能放在下篇博文单独写一篇或者以后有空再分析啦)

推荐阅读更多精彩内容