关于MySQL数据库自增主键,说几个容易被忽略的点

自增主键是指在自增列上定义的主键。自增主键可以让主键索引尽量地保持递增顺序插入,避免了页分裂,索引也更紧凑。

在建表语句中一般是这么定义的:

NOT NULL PRIMARY KEY AUTO_INCREMENT

如:

CREATE TABLE `t` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `step` int(11) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB;

一、自增值保存在哪里

不同的数据库引擎对于自增值的保存策略不同:

  • MyISAM 引擎:自增值保存在数据文件中;
  • InnoDB引擎:
    • 在 MySQL 5.7 及之前的版本,自增值保存在内存里,并没有持久化。每次重启后,第一次打开表的时候,都会去找自增值的最大值 max(id),然后将 max(id)+1 作为这个表当前的自增值。
    • 在 MySQL 8.0 版本,将自增值的变更记录在了 redo log 中,重启的时候依靠 redo log 恢复重启之前的值。

二、自增值修改机制

假设数据表当前的自增值是 Y,在插入一行数据的时候,数据库的执行情况如下:

  • 如果插入数据时自增字段指定了具体的值 X,就直接使用值 X 填到该自增字段,该表的自增值是否修改的判断如下:
    • 若 X<Y,则该表的自增值不变;
    • 若 X≥Y,则需要修改该表的自增值为 X + auto_increment_increment(步长)。
  • 如果插入数据时自增字段未指定值或指定为 0、null,则把该表当前的自增值(即 Y)填到自增字段,并修改该表的自增值为 Y + auto_increment_increment(步长)。

实际上,MySQL 维护着两个系统参数:auto_increment_offset 和 auto_increment_increment,分别用来表示自增的初始值和步长,默认值都为 1。MySQL 修改数据表自增值是从 auto_increment_offset 开始,以 auto_increment_increment 为步长,持续叠加,直到找到第一个大于 X 的值,作为新的自增值。

在双 M 的主备结构里要求双写的时候,我们就可能会设置成 auto_increment_increment=2,让一个库的自增 id 都是奇数,另一个库的自增 id 都是偶数,避免两个库生成的主键发生冲突。

三、自增值的修改时机

数据表的自增值修改实际上是在真正插入数据的操作之前。如果没有插入成功,MySQL 也不会将自增值再改回去。也就是说,自增主键有可能会出现不连续的情况。比如在插入数据时出错(如违反唯一键约束),或者事务回滚的情况下,都会导致自增主键不连续。

可通过以下步骤验证:

  1. 创建表 t_auto,包含主键、手机号和姓名三个字段,其中主键自增,手机号限制唯一。表结构如下:

    CREATE TABLE `t_auto` (
      `id` int(11) NOT NULL AUTO_INCREMENT,
      `mobile` varchar(11) DEFAULT NULL,
      `name` varchar(20) DEFAULT NULL,
      PRIMARY KEY (`id`),
      UNIQUE KEY `m` (`mobile`)
    ) ENGINE=InnoDB;
    
  2. 插入一条记录:

    insert into t_auto values(null, '18500009999', '小明'); 
    
  3. 执行 show create table 命令:

    show create table t_auto \G;
    

    输出结果如下,可以看到 AUTO_INCREMENT=2,表示下一次插入数据时,如果需要自动生成自增值,会生成 id=2。

    *************************** 1. row ***************************
           Table: t_auto
    Create Table: CREATE TABLE `t_auto` (
      `id` int(11) NOT NULL AUTO_INCREMENT,
      `mobile` varchar(11) COLLATE utf8_bin DEFAULT NULL,
      `name` varchar(20) COLLATE utf8_bin DEFAULT NULL,
      PRIMARY KEY (`id`),
      UNIQUE KEY `m` (`mobile`)
    ) ENGINE=InnoDB AUTO_INCREMENT=2 DEFAULT CHARSET=utf8 COLLATE=utf8_bin
    1 row in set (0.01 sec)
    
    ERROR: 
    No query specified
    

    查询表数据:

    select * from t_auto;
    

    结果如下:

    id mobile name
    1 18500009999 小明
  4. 再插入一条数据,手机号和上一条数据一样:

    insert into t_auto values(null, '18500009999', '小红'); 
    

    因为碰到唯一键 m 冲突(手机号要求唯一),所以 id=2 这一行并没有插入成功,错误信息如下:

    ERROR 1062 (23000): Duplicate entry '18500009999' for key 'm'
    

    这个语句的执行流程就是:

    1. 执行器调用 InnoDB 引擎接口写入一行,传入的这一行的值是 (0, '18500009999', '小红');
    2. InnoDB 发现用户没有指定自增 id 的值,获取表 t 当前的自增值 2;
    3. 将传入的行的值改成 (2, '18500009999', '小红');
    4. 将表的自增值改成 3;
    5. 继续执行插入数据操作,由于已经存在 mobile=18500009999 的记录,所以报 Duplicate key error,语句返回。
  5. 执行 show create table 命令:

    show create table t_auto \G;
    

    输出结果如下,可以看到 AUTO_INCREMENT=3,MySQL 没有将自增值再改回去:

    *************************** 1. row ***************************
           Table: t_auto
    Create Table: CREATE TABLE `t_auto` (
      `id` int(11) NOT NULL AUTO_INCREMENT,
      `mobile` varchar(11) COLLATE utf8_bin DEFAULT NULL,
      `name` varchar(20) COLLATE utf8_bin DEFAULT NULL,
      PRIMARY KEY (`id`),
      UNIQUE KEY `m` (`mobile`)
    ) ENGINE=InnoDB AUTO_INCREMENT=3 DEFAULT CHARSET=utf8 COLLATE=utf8_bin
    1 row in set (0.01 sec)
    
    ERROR: 
    No query specified
    
  6. 修改手机号,再重新插入:

    insert into t_auto values(null, '18500009998', '小红'); 
    

    此时查询表数据,

    select * from t_auto;
    

    结果如下:

    id mobile name
    1 18500009999 小明
    3 18500009998 小红

    也就是说,出现了自增主键不连续的情况。

同样地,事务回滚也会出现自增主键不连续的情况。比如,

  1. 先执行以下事务:

    begin;
    insert into t_auto values(null, '18500009997', '小江');
    rollback;
    
  2. 再执行 how create table 命令:

    show create table t_auto \G;
    

    输出结果如下,可以看到 AUTO_INCREMENT=5,MySQL 没有将自增值改回去:

    *************************** 1. row ***************************
           Table: t_auto
    Create Table: CREATE TABLE `t_auto` (
      `id` int(11) NOT NULL AUTO_INCREMENT,
      `mobile` varchar(11) COLLATE utf8_bin DEFAULT NULL,
      `name` varchar(20) COLLATE utf8_bin DEFAULT NULL,
      PRIMARY KEY (`id`),
      UNIQUE KEY `m` (`mobile`)
    ) ENGINE=InnoDB AUTO_INCREMENT=5 DEFAULT CHARSET=utf8 COLLATE=utf8_bin
    1 row in set (0.01 sec)
    
    ERROR: 
    No query specified
    
  3. 再插入数据:

    insert into t_auto values(null, '18500009996', '小青');
    

    查询数据表,

    select * from t_auto;
    

    结果如下:

    id mobile name
    1 18500009999 小明
    3 18500009998 小红
    5 18500009996 小青

在数据插入失败时,MySQL 不将自增值改回去是为了提升性能。在申请自增值时,为避免多个并行执行的事务申请到同一个自增 id,在申请的过程中会加锁,然后按顺序执行。自增 id 锁并不是一个事务锁,而是每次申请完就马上释放,以便允许别的事务再申请。

继续以上述的表 t_auto 为例,此时表当前自增值为 6:

  1. 假设现在有两个并行执行的事务 A 和 B,其中事务 A 申请到了 id=6,事务 B 申请到了 id=7,这时数据表的自增值是 8(即 AUTO_INCREMENT=8),继续执行;
  2. 事务 B 正确提交,但事务 A 提交失败,比如出现唯一键冲突;
  3. 如果允许自增 id 回退的话,表 t_auto 会把当前的自增值改为 6,此时会出现表的自增值为 6,但表中却存在 id=7 的数据;
  4. 接下来其他事务申请自增值就会申请到 id=6,然后再申请到 id=7,这时就会出现插入语句报错“主键冲突”。

解决这个主键冲突,有两种方法:一种是每次申请 id 时,判断这个 id 是否已经存在于表中,若存在,则跳过这个 id;另一种是把自增 id 的锁范围扩大,必须等到事务完成提交,再释放锁,下一个事务才能再申请自增 id。这两种方法都存在性能问题:一个是每次申请 id 都要去主键索引树判断 id 是否存在,另一个是锁的粒度太大,导致系统并发能力大大下降。

因此,为保证 MySQL 的性能,InnoDB 放弃了这个设计,语句执行失败也不回退自增 id。也正是因为这样,所以才只保证了自增 id 是递增的,但不保证是连续的。

四、自增锁的优化

自增 id 锁不是事务锁,在每次申请完就立马释放,以便允许其他事务可以申请。

其实,在 MySQL 5.0 版本的时候,自增锁的范围是语句级别,即一个语句申请了表自增锁,这个锁要等到该语句执行完以后才释放,在此之前其他需要申请表自增锁的语句会被阻塞。此举虽然保证了数据一致性,但是降低了并发度。

在 MySQL 5.1.22 版本引入了一个新策略,新增参数 innodb_autoinc_lock_mode,用户可根据实际情况定制锁策略,该参数有如下值 (默认值是 1):

  • 值为 0(Traditional,传统)时,采用传统锁模式,即采用之前 MySQL 5.0 版本的策略,所有 insert 操作都要申请自增锁,语句执行结束后才释放锁;

  • 值为 1(Consecutive,连续)时:

    • 普通 insert 语句,自增锁在申请之后就马上释放;
    • 批量 insert 语句,类似 insert … select、replace...select 这样的批量插入数据的语句,自增锁还是要等语句结束后才被释放;
  • 值为 2(Interleaved,交错)时,所有的申请自增主键的动作都是申请后就释放锁。

在普通的 insert 语句里面包含多个 value 值的情况下,如以下的 insert 语句:

INSERT INTO `t_auto` (`mobile`, `name`)
VALUES
    ('13987890987', '王朝'),
    ('13987890988', '马汉'),
    ('13987890989', '展昭');

因为这类语句在申请自增 id 的时候,是可以精确计算出需要多少个 id 的,然后一次性申请,申请完成后锁就可以释放了。

而对于批量插入数据的语句(select … insert,replace … select 和 load data 语句),MySQL 有一个批量申请自增 id 的策略(注:该策略是导致自增 id 不连续的第三种原因。):

  1. 语句执行过程中,第一次申请自增 id,会分配 1 个;
  2. 1 个用完以后,这个语句第二次申请自增 id,会分配 2 个;
  3. 2 个用完以后,还是这个语句,第三次申请自增 id,会分配 4 个;
  4. 依此类推,同一个语句去申请自增 id,每次申请到的自增 id 个数都是上一次的两倍。

我们可以通过以下这个语句序列验证:

-- 创建表step_log
CREATE TABLE `step_log` (
  `id` int(11) unsigned NOT NULL AUTO_INCREMENT,
  `step` int(11) NOT NULL DEFAULT 1 COMMENT '步长',
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

-- 插入数据
insert into step_log values(null, 1);
insert into step_log values(null, 2);
insert into step_log values(null, 3);
insert into step_log values(null, 4);

-- 创建表step_log_2,其结构与表step_log相同
create table step_log_2 like step_log;

-- 批量插入数据
insert into step_log_2(step) select step from step_log;

-- 插入数据
insert into step_log_2 values(null, 5);

-- 查询此时表step_log_2数据:
select * from step_log_2;

-- 输出如下,id=5、id=6、id=7 就被跳过了:
+----+------+
| id | step |
+----+------+
|  1 |    1 |
|  2 |    2 |
|  3 |    3 |
|  4 |    4 |
|  8 |    5 |
+----+------+

引申:为什么默认设置下,insert … select 要使用语句级的锁?为什么这个参数的默认值不是 2?

这么设计还是为了数据的一致性。

新建数据表 step_log,一起来看一下这个场景:往表 step_log 中插入了 4 行数据,然后创建了一个相同结构的表 step_log_2,然后两个 session 同时执行向表 step_log_2 中插入数据的操作。

CREATE TABLE `step_log` (
  `id` int(11) unsigned NOT NULL AUTO_INCREMENT,
  `step` int(11) NOT NULL DEFAULT 1 COMMENT '步长',
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
session A session B
insert into step_log values(null, 1);
insert into step_log values(null, 2);
insert into step_log values(null, 3);
insert into step_log values(null, 4);
create table step_log_2 like step_log;
insert into step_log values(null, 5); insert into step_log_2(step) select step from step_log;

设想一下,如果 session B 是申请了自增值以后马上就释放自增锁,那么就可能出现这样的情况:

  • session B 先插入了两个记录,(1,1,1)、(2,2,2);
  • 然后,session A 来申请自增 id 得到 id=3,插入了(3,5,5);
  • 之后,session B 继续执行,插入两条记录 (4,3,3)、 (5,4,4)。

你可能会说,这也没关系吧,毕竟 session B 的语义本身就没有要求表 t2 的所有行的数据都跟 session A 相同。

是的,从数据逻辑上看是对的。但是,如果我们现在的 binlog_format=statement,你可以设想下,binlog 会怎么记录呢?

由于两个 session 是同时执行插入数据命令的,所以 binlog 里面对表 t2 的更新日志只有两种情况:要么先记 session A 的,要么先记 session B 的。

但不论是哪一种,这个 binlog 拿去从库执行,或者用来恢复临时实例,备库和临时实例里面,session B 这个语句执行出来,生成的结果里面,id 都是连续的。这时,这个库就发生了数据不一致。

你可以分析一下,出现这个问题的原因是什么?

其实,这是因为原库 session B 的 insert 语句,生成的 id 不连续。这个不连续的 id,用 statement 格式的 binlog 来串行执行,是执行不出来的。

而要解决这个问题,有两种思路:

  1. 一种思路是,让原库的批量插入数据语句,固定生成连续的 id 值。所以,自增锁直到语句执行结束才释放,就是为了达到这个目的。
  2. 另一种思路是,在 binlog 里面把插入数据的操作都如实记录进来,到备库执行的时候,不再依赖于自增主键去生成。这种情况,其实就是 innodb_autoinc_lock_mode 设置为 2,同时 binlog_format 设置为 row。

因此,在生产上,尤其是有 insert … select 这种批量插入数据的场景时,从并发插入数据性能的角度考虑,我建议你这样设置:innodb_autoinc_lock_mode=2 ,并且 binlog_format=row. 这样做,既能提升并发性,又不会出现数据一致性问题。

需要注意的是,我这里说的批量插入数据,包含的语句类型是 insert … select、replace … select 和 load data 语句。

五、自增值达到上限的逻辑

表定义的自增值达到上限后的逻辑是:再申请下一个 id 时,得到的值保持不变。

可通过以下步骤验证:

  1. 创建表 t,其中只包括一个主增主键,并设置 auto_increment=4294967295

    create table t(id int unsigned auto_increment primary key) auto_increment=4294967295;
    
  2. 插入一行数据:

    insert into t values(null);
    
  3. 查看此时表 t 的创建语句:

    show create table t;
    

    结果如下:

    CREATE TABLE `t` (
      `id` int(10) unsigned NOT NULL AUTO_INCREMENT,
      PRIMARY KEY (`id`)
    ) ENGINE=InnoDB AUTO_INCREMENT=4294967295 DEFAULT CHARSET=utf8 COLLATE=utf8_bin;
    
  4. 再插入一行数据:

    insert into t values(null);
    

    则提示错误信息:

    ERROR 1062 (23000): Duplicate entry '4294967295' for key 'PRIMARY'
    

可以看到,第一次插入数据成功后,这个表的 AUTO_INCREMENT 没有改变(还是 4294967295),导致了第二次插入的时候又拿到相同的自增 id 值,再试图执行时,报主键冲突错误。

(END)

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,290评论 4 363
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,399评论 1 294
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 109,021评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,034评论 0 207
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,412评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,651评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,902评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,605评论 0 199
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,339评论 1 246
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,586评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,076评论 1 261
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,400评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,060评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,083评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,851评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,685评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,595评论 2 270