前言
假设你在维护一个市民系统,每个人都有一个唯一的身份证号,而且业务代码已经保证了不会写入两个重复的身份证号。如果市民系统需要按照身份证号查姓名,就会执行类似这样的 SQL 语句:
select name from CUser where id_card = 'xxxxxxxyyyyyyzzzzz';
这个时候 is_card
肯定是比较常用的一个字段。我想你一定会给这个字段加一个索引吧。这个时候一定不能加错了。小系统还好,大系统估计就卡嗝屁了。为什么这么说呢?
is_card
是身份证字段,18位,还是比较大的。所以如果考虑不好的话影响还是蛮大的。首先排除主键索引以及聚集索引。
我们把目光放到了。普通索引,唯一索引。只要保证上列身份证的信息不是重复的,是唯一的,那就都可以使用。现在我们从性能方面分析一下这两个索引优势与劣势
查询过程
如下图所示,ID是主键,k的值就是 is_card
。
图 1 InnoDB 的索引组织结构
假设执行SQL语句 select id from T where k=5
。查询语句在树上的查找过程是,先在根节点上查找k的值是否等于5。然后通过二分法定位到 (5,500)
- 对于普通索引来说,查找到数据
5,500
后,需要查找下一个记录,直到碰到第一个不满足 k=5 条件的记录。 - 对于唯一索引来说,查找到数据
5.500
后,就直接返回了,停止当前的检索。
以上两种情况带来的性能差异是 微乎其微 的
InnoDB 的数据是按数据页为单位来读写的。也就是说,当需要读一条记录的时候,并不是将这个记录本身从磁盘读出来,而是以页为单位,将其整体读入内存。在 InnoDB 中,每个数据页的大小默认是 16KB。
因为引擎是按页读写的,所以说,当找到 k=5 的记录的时候,它所在的数据页就都在内存里了。那么,对于普通索引来说,要多做的那一次“查找和判断下一条记录”的操作,就只需要一次指针寻找和一次计算。
更新过程
为了说明普通索引和唯一索引对更新语句性能的影响这个问题,我们要先了解一下什么是change buffer。
change buffer:它是可以持久化的数据。也就是说,change buffer 在内存中有拷贝,也会被写入到磁盘上。
当需要更新一个数据页时,如果数据页在内存中就直接更新,而如果这个数据页还没有在内存中的话,在不影响数据一致性的前提下,InnoDB 会将这些更新操作缓存在 change buffer 中,这样就不需要从磁盘中读入这个数据页了。在下次查询需要访问这个数据页的时候,将数据页读入内存,然后执行 change buffer 中与这个页有关的操作。通过这种方式就能保证这个数据逻辑的正确性。
将change buffer里的数据还原到数据页上,这一过程我们称为 merge
除了访问这个数据页会触发 merge 外,系统有后台线程会定期 merge。在数据库正常关闭(shutdown)的过程中,也会执行 merge 操作。
显然,如果能够将更新操作先记录在 change buffer,减少读磁盘,语句的执行速度会得到明显的提升。而且,数据读入内存是需要占用 buffer pool(缓冲池) 的,所以这种方式还能够避免占用内存,提高内存利用率。
change buffer 介绍
对于唯一索引来说,所有的更新操作都要先判断这个操作是否违反唯一性约束。比如,要插入 (4,400) 这个记录,就要先判断现在表中是否已经存在 k=4 的记录,而这必须要将数据页读入内存才能判断。如果都已经读入到内存了,那直接更新内存会更快,就没必要使用 change buffer 了。
因此,唯一索引的更新就不能使用 change buffer,实际上也只有普通索引可以使用。
change buffer 用的是 buffer pool 里的内存,因此不能无限增大。change buffer 的大小,可以通过参数 innodb_change_buffer_max_size 来动态设置。这个参数设置为 50 的时候,表示 change buffer 的大小最多只能占用 buffer pool 的 50%。
以上就是change buffer大概介绍了。下面我们介绍一下如果在这个表插入一条新记录innodb的处理流程是怎么样的?
第一种情况是:如果这条记录更新的 数据页
在内存中
- 对于唯一索引来说,找到 3 和 5 之间的位置,判断到没有冲突,插入这个值,语句执行结束;
- 对于普通索引来说,找到 3 和 5 之间的位置,插入这个值,语句执行结束。
这样看来,普通索引和唯一索引对更新语句性能影响的差别,只是一个判断,只会耗费微小的 CPU 时间。这不是我们关注的重点。
第二种情况是:如果这条记录更新的 数据页
不在内存中
- 对于唯一索引来说,需要将数据页读入内存,判断到没有冲突,插入这个值,语句执行结束;
- 对于普通索引来说,则是将更新记录在 change buffer,语句执行就结束了。
将数据从磁盘读入内存涉及随机 IO 的访问,是数据库里面成本最高的操作之一。change buffer 因为减少了随机磁盘访问,所以对更新性能的提升是会很明显的。
change buffer 场景
通过上面的分析,我们大概熟悉了 change buffer 对更新过程的加速作用,也清楚了 change buffer 只限于用在普通索引的场景下,而不适用于唯一索引。那么,现在有一个问题就是:普通索引的所有场景,使用 change buffer 都可以起到加速作用吗?
显然是不是的。普通索引中,change buffer的出现极大地减少了修改数据与磁盘IO进行交互。如果读多写少呢?那岂不是更新的次数不就少了嘛!
所以真正的益处是,修改越多就越有益。适合于 写多读少
的表
上面补充一个前提条件。在每次merge之前,越多收益越大
注意:对于读多写少的表,还是建议把 change buffer 关了吧,因为不使用change buffer的话,还要增加对change buffer的,所以这种业务模式反而起了副作用。
索引的选择和实战
回到我们文章开头的问题,普通索引和唯一索引应该怎么选择。其实,这两类索引在查询能力上是没差别的,主要考虑的是对更新性能的影响。所以,我建议你尽量选择普通索引。
如果所有的更新后面,都马上伴随着对这个记录的查询,那么你应该关闭 change buffer。而在其他情况下,change buffer 都能提升更新性能。
在实际使用中,你会发现,普通索引和 change buffer 的配合使用,对于数据量大的表的更新优化还是很明显的。
特别地,在使用机械硬盘时,change buffer 这个机制的收效是非常显著的。所以,当你有一个类似“历史数据”的库,并且出于成本考虑用的是机械硬盘时,那你应该特别关注这些表里的索引,尽量使用普通索引,然后把 change buffer 尽量开大,以确保这个“历史数据”表的数据写入速度。
change buffer 和 redo log
结束了change buffer的原理,类似于的操作可以关联到的地方我们再做一下延伸扩展。
redo log 插入请求
mysql> insert into t(id,k) values(id1,k1),(id2,k2);
这里,我们假设当前 k 索引树的状态,查找到位置后,k1 所在的数据页在内存 (InnoDB buffer pool) 中,k2 所在的数据页不在内存中。如图 2 所示是带 change buffer 的更新状态图。
图 2 带 change buffer 的更新过程
这条更新语句涉及了四个部分:内存、redo log(ib_log_fileX)、 数据表空间(t.ibd)、系统表空间(ibdata1)。
这条更新语句做了如下的操作(按照图中的数字顺序):
- Page 1 在内存中,直接更新内存;
- Page 2 没有在内存中,就在内存的 change buffer 区域,记录下“我要往 Page 2 插入一行”这个信息
- 将上述两个动作记入 redo log 中(图中 3 和 4)。
做完以上操作,SQL就执行完了。你会发现在修改数据的时候执行成本很低,都是跟内存,缓冲打交道。只有一处是因为没有缓冲内存的才跟磁盘IO进行交互。
同时,图中的两个虚线箭头,是后台操作,不影响更新的响应时间。
redo log 读取请求
比如,我们现在要执行 select * from t where k in (k1, k2)
。这里,我画了这两个读请求的流程图。
如果读语句发生在更新语句后不久,内存中的数据都还在,那么此时的这两个读操作就与系统表空间(ibdata1)和 redo log(ib_log_fileX)无关了。所以,我在图中就没画出这两部分。
图 3 带 change buffer 的读过程
从图中可以看到:
读 Page 1 的时候,直接从内存返回。有几位同学在前面文章的评论中问到,WAL 之后如果读数据,是不是一定要读盘,是不是一定要从 redo log 里面把数据更新以后才可以返回?其实是不用的。你可以看一下图 3 的这个状态,虽然磁盘上还是之前的数据,但是这里直接从内存返回结果,结果是正确的。
要读 Page 2 的时候,需要把 Page 2 从磁盘读入内存中,然后应用 change buffer 里面的操作日志,生成一个正确的版本并返回结果。
可以看到,直到需要读 Page 2 的时候,这个数据页才会被读入内存。
所以,如果要简单地对比这两个机制在提升更新性能上的收益的话,redo log 主要节省的是随机写磁盘的 IO 消耗(转成顺序写),而 change buffer 主要节省的则是随机读磁盘的 IO 消耗。