MySQL索引特性(二)

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
云数据库 RDS PostgreSQL,集群系列 2核4GB
简介: MySQL索引特性

三、索引的理解

3.1 观察主键索引现象

创建一个用户表,表中包含用户id、年龄和姓名,并将用户的id设置成主键


bd83a3d422e24827b37b11f5152502cd.png


创建表完毕后向表中插入一些数据,并且插入数据时没有按照主键的大小顺序插入


7043a3804d77435c955658795022a4e3.png


但最终查看表中的数据时,却发现显示出来的数据是按照主键进行有序排列的


7ba168ae832d442ab2f5614eecd535e4.png


创建表时设置了主键,即便向表中插入数据时是乱序插入的,MySQL底层也会自动按照主键对插入的数据进行排序


3.2 推导主键索引结构的构建

单个Page


MySQL中要管理很多数据文件,在运行期间一定有大量的Page被换入换出,因此MySQL要将内存中大量的Page管理起来

MySQL将内存中的每一个Page都用一个结构体进行描述,然后再将各个结构体以双链表的形式组织,因此一个Page结构体内部既包含数据字段,也包含属性字段

为了方便后续数据的插入和删除,每个Page结构体内部存储的数据记录会以单链表的形式组织,并且各个记录间按照主键进行排序


d81165da3dcd4100acefb7c03f579ea4.png

页内部存放数据的模块,是一个链表的结构,链表的特点是增删快,查询修改慢,所以优化查询的效率是必须的。正是因为有序,在查找的时候,从头到后都是有效查找,没有任何一个查找是浪费的,而且,可能可以提前结束查找过程

单个Page内创建页内目录


Page结构体内部存储的数据记录是以单链表的形式组织起来的,当页内部的数据量增多时,本质在页内部进行的还是线性遍历,效率低下

可在Page结构体内部引入页内目录,将Page结构体内部存储的数据记录按照主键划分为若干区域,页内目录中就存储着这若干区域的最小键值

在Page结构体内部引入页内目录后,在页内部查询数据时就可以先通过页内目录找到目标数据所在区域的起始记录,然后再从该记录开始向后遍历找到目标记录

4d7724ad105b4925913f8649e47106b7.png


在每个Page结构体内部引入页内目录,目的是为了加速在单个Page内部数据查询的效率。由于这个页内目录也是保存在Page内部的,而单个Page的大小是固定的,因此添加页内目录后Page内部能够保存的数据记录变少了,所以在Page内部引入页内目录本质是空间换时间,就像给书添加目录需花费更多的纸张一样

每个Page结构体内部的数据会按照主键进行排序,其实就是为了引入页内目录,因为只有数据按照主键排序后引入页内目录才有意义,就像书中每一页都是按照页码进行排序的一样,若一本书的页码是乱序的,那么其目录就没有意义

多个Page


随着数据量不断增大,单个Page中无法存下所有数据,这时就需要用多个Page来存储数据

在查询数据时就需先遍历Page双链表,确定目标数据在哪一个Page,然后再在该Page内部找到目标数据


69b52fffdcc84cd2b35d7707b995dfd2.png

Page之上创建页目录


虽然在单个Page内部能够通过页内目录来快速定位数据,但在遍历Page双链表寻找目标Page时本质还是线性遍历

可以给各个Page结构体也建立页目录,页目录中的每个目录项都指向一个Page,而目录项存放的是其指向的Page中存放的最小数据的键值

各个Page结构体建立页目录后,在查询数据时就可先通过遍历页目录找到目标数据所在的Page,然后再在该Page内部找到目标数据

85d8388f3aa4417f8c745fcbf2a4a32a.png


这里的页目录与之前的页内目录的区别在于,页目录管理的是一个个的Page,而页内目录管理的是一条条的记录。页内目录与其管理的多条记录是保存在同一个Page中,而页目录是重新申请的一个Page结构体来保存

随着数据量不断增大,Page变得越来越多,这时一个页目录无法管理所有的Page,这时就需要更多个的页目录。这些页目录也是一个个的Page结构体,只不过这些Page结构体中存放的不是数据记录,而是各个Page的目录信息。但是在MySQL看来,无论Page中存储的是什么数据,都应该被管理起来,因此这些Page页目录也需用双链表连接起来

页目录之上再创建页目录


就算给各个Page结构体也建立了页目录,但随着数据量不断增大,页目录的数量也会越来越多,这时在遍历页目录寻找目标Page时本质进行的还是线性遍历

类似的,可以不断在页目录之上再创建页目录,最终就一定能够得到一个入口页目录,这时在查询数据时就可以从入口页目录开始不断查询页目录,最终找到目标数据所在的Page,然后再在该Page内部找到目标数据

6ff7c97949dd420a9d2c93c56e9c51c4.png


注意:


最终构建出来的实际就是一棵B+树,这棵B+树就是InnoDB的索引结构(非叶子结点的页目录不需使用双链表链接),其中每一层Page的作用就是加速其下一层的查找效率

若创建表时设置了主键,那么MySQL在底层就会自动将这张表中的的数据以B+树的形式组织起来,保存在Buffer Pool中,查询数据时就可通过查询这棵B+树来提高查询效率

MySQL中可能同时有大量的表正在被处理,因此Buffer Pool中可能会存在多个索引结构,即同时存在多个B+树结构,当查询表时访问的就是这张表对应的B+树结构

B+树中的Page结点不需要全量加入到Buffer Pool中


当对MySQL中的某张表进行增删查改操作时,不需将其对应B+树的所有结点全量加入到Buffer Pool中,甚至在刚开始时只需要将B+树的根结点加入到Buffer Pool中

当后续访问表中的数据时,再将该数据对应路径上的结点加入到Buffer Pool中即可,对于其他不需要的结点根本不用加入到Buffer Pool中,这一点和操作系统中的页表是很像的

在刷新数据时也不需将B+树中所有的结点都进行刷新,在Page结构体中有一个标记位用来标记当前Page是否被修改过,若被修改过则说明这是一个脏数据,在刷新数据时只有脏数据才需被刷新到磁盘上

由于B+树中的结点都是16KB大小的Page,因此无论是刷新数据到磁盘函数从磁盘加载数据到Buffer Pool,都是以Page为单位进行的,这也就是所谓的MySQL与磁盘交互的基本单位是Page

若将这棵B+树逆时针旋转90度,就会发现这其实就是操作系统中的页表结构,本质操作系统中的页表也是B+树结构


87d7572652824626959885e7dd86d221.png


以32位平台为例,页表将一个虚拟地址转换成物理地址的过程如下:


选择虚拟地址的前10个bit位在页目录当中进行查找,找到对应的页表

再继续选择虚拟地址后续的10个bit位在对应的页表当中进行查找,找到物理内存中对应页框的起始地址

最后选择虚拟地址中剩下的12个bit位作为偏移量,从对应页框的起始地址处向后进行偏移,最终得到的就是转换后的物理地址

说明:


12个bit位有种取值,而字节对应就是4KB,所以物理内存中一个页框的大小就是4KB,这也就是为什么操作系统与磁盘交互的基本单位是4KB的原因

页表中的各个B+树结点也不需全量加入到内存中,而只需加入访问到的结点即可,所以页表占用的内存大小实际是可控的,这也就是为什么二级页表可行的原因

3.3 索引结构可以采用哪些数据结构

除了InnoDB存储引擎所采用的B+树结构,索引结构还可以采用哪些数据结构呢?


链表:查找时是线性遍历,效率低

普通二叉搜索树:可能退化成线性结构,此时查找还是线性遍历

AVL树和红黑树:虽然保证了二叉树是绝对或近似平衡的,不会退化成线性结构,但AVL树和红黑树都是二叉树结构,也意味着树的层高会比较高,而查询数据时都是从根结点开始向下进行查找的,这也意味着在查询过程中需遍历更多结点,若这些结点还没有被加载到Buffer Pool中,这时就需进行更多次的IO操作,所以最终没有选择其作为索引结构

哈希表:官方的索引实现方式中MySQL是支持HASH的,只不过InnoDB和MyISAM存储引擎并不支持。哈希表的优点就是其时间复杂度是O(1),但哈希表也有一个缺点就是不利于进行数据的范围查找


6d811f2f4ea144baa49a118d7fdf1503.png

注意:图中BTREE即B+树


B树 VS B+树


B+树是B树的一种变形结构,那为什么没有采用B树作为索引结构呢?


首先,普通B树中的所有结点中都同时包括索引信息和数据信息,由于一个Page的大小是固定的,因此非叶子结点中若包含了数据信息,那么这些结点中能够存储的索引信息就会变少,这棵树形结构就会变得更高更瘦,当查询数据时就可能需与磁盘进行更多次的IO操作

其次,普通B树中的各个叶子结点之间没有连接起来,这将不利于进行数据的范围查找,而B+树的各个叶子结点之间是连接起来的,当进行范围查找时,直接先找到第一个数据然后继续向后遍历找到之后的数据即可,因此将各个叶子结点连接起来更有利于进行数据的范围查找

3.4 聚簇索引 VS 非聚簇索引

MyISAM存储引擎 - 主键索引结构


博客上述推导的主键索引结构是InnoDB存储引擎的主键索引结构,而MyISAM存储引擎同样采用B+树作为索引的基本数据结构

与InnoDB存储引擎的B+树不同的是,MyISAM存储引擎的B+树的叶子结点存放的不是数据记录,而是数据记录对应的地址

当一张表存在多个索引时,就会有多个B+树结构,叶子结点存储数据记录的地址即可

下图为MyISAM存储引擎的主键索引结构,其中Col1为主键:


843e76b7464d4e9b9a3cd706503e0aa6.png


InnoDB存储引擎 - 普通索引结构


InnoDB存储引擎的普通索引采用的也是B+树结构,但普通索引的B+树中的键值可以重复,并且B+树的叶子结点中存储的不是数据记录,而是对应数据记录的主键值

当根据普通索引查询数据时,会先查找普通索引对应的B+树找到目标记录的主键值,然后再查找主键索引对应的B+树找到目标记录,这个过程被称为回表查询

下图为InnoDB存储引擎的普通索引结构,其中Col3为索引列:


8e03bf3d913a45e380d905d2eca4a5e9.png


注意:


InnoDB的普通索引的B+树叶子结点中没有保存整条数据记录,是为了节省空间,因为同一张表可能会创建多个普通索引,每个普通索引的B+树中都保存一份数据会造成数据冗余,所以通过回表查询主键索引对应的B+来获取整个数据记录,该做法本质上是以时间换空间

当根据普通索引查询数据时,其实也不一定需要进行回表查询,因为有可能要查询的就是这条记录对应的主键值,因此查询完普通索引对应B+树后即可完成查询

采用InnoDB存储引擎建立的每张表都会有一个主键,就算用户没有设置,InnoDB也会自动创建一个不可见的主键,因为完整数据记录只会存储在主键索引对应的B+树中的,因此采用InnoDB存储引擎建立的表必须有主键

聚簇索引 VS 非聚簇索引


聚簇索引: 像InnoDB存储引擎这种,将数据记录与索引结构放在一起的索引方案,叫做聚簇索引

非聚簇索引: 像MyISAM存储引擎这种,将数据记录与索引结构分离的索引方案,叫做非聚簇索引

当采用InnoDB存储引擎创建表时,在数据库对应的目录下会新增两个文件

44ec76a6e0c94420abeef07354bd193b.png



当采用MyISAM存储引擎创建表时,在数据库对应的目录下会新增三个文件


d720281f00f24a7da49cf57b436abb0f.png


注意:


采用InnoDB和MyISAM存储引擎创建表时都会生成xxx.frm文件,该文件中存储的是表结构相关的信息

采用InnoDB存储引擎创建表时会生成一个xxx.ibd文件,该文件中存储的是索引和数据相关的信息,即聚簇索引,索引和数据存储在同一个文件中

采用MyISAM存储引擎创建表时会生成一个xxx.MYD文件和一个xxx.MYI文件,其中xxx.MYD文件中存储的是数据相关的信息,而xxx.MYI文件中存储的是索引相关的信息,即非聚簇索引,索引和数据是分开存储的


相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
11天前
|
存储 关系型数据库 MySQL
MySQL 8.0特性-自增变量的持久化
【11月更文挑战第8天】在 MySQL 8.0 之前,自增变量(`AUTO_INCREMENT`)的行为在服务器重启后可能会发生变化,导致意外结果。MySQL 8.0 引入了自增变量的持久化特性,将其信息存储在数据字典中,确保重启后的一致性。这提高了开发和管理的稳定性,减少了主键冲突和数据不一致的风险。默认情况下,MySQL 8.0 启用了这一特性,但在升级时需注意行为变化。
|
6天前
|
缓存 关系型数据库 MySQL
MySQL索引策略与查询性能调优实战
在实际应用中,需要根据具体的业务需求和查询模式,综合运用索引策略和查询性能调优方法,不断地测试和优化,以提高MySQL数据库的查询性能。
|
29天前
|
存储 关系型数据库 MySQL
阿里面试:为什么要索引?什么是MySQL索引?底层结构是什么?
尼恩是一位资深架构师,他在自己的读者交流群中分享了关于MySQL索引的重要知识点。索引是帮助MySQL高效获取数据的数据结构,主要作用包括显著提升查询速度、降低磁盘I/O次数、优化排序与分组操作以及提升复杂查询的性能。MySQL支持多种索引类型,如主键索引、唯一索引、普通索引、全文索引和空间数据索引。索引的底层数据结构主要是B+树,它能够有效支持范围查询和顺序遍历,同时保持高效的插入、删除和查找性能。尼恩还强调了索引的优缺点,并提供了多个面试题及其解答,帮助读者在面试中脱颖而出。相关资料可在公众号【技术自由圈】获取。
|
1月前
|
存储 关系型数据库 MySQL
Mysql(4)—数据库索引
数据库索引是用于提高数据检索效率的数据结构,类似于书籍中的索引。它允许用户快速找到数据,而无需扫描整个表。MySQL中的索引可以显著提升查询速度,使数据库操作更加高效。索引的发展经历了从无索引、简单索引到B-树、哈希索引、位图索引、全文索引等多个阶段。
63 3
Mysql(4)—数据库索引
|
20天前
|
监控 关系型数据库 MySQL
数据库优化:MySQL索引策略与查询性能调优实战
【10月更文挑战第27天】本文深入探讨了MySQL的索引策略和查询性能调优技巧。通过介绍B-Tree索引、哈希索引和全文索引等不同类型,以及如何创建和维护索引,结合实战案例分析查询执行计划,帮助读者掌握提升查询性能的方法。定期优化索引和调整查询语句是提高数据库性能的关键。
95 1
|
30天前
|
存储 关系型数据库 MySQL
如何在MySQL中进行索引的创建和管理?
【10月更文挑战第16天】如何在MySQL中进行索引的创建和管理?
63 1
|
21天前
|
监控 关系型数据库 MySQL
数据库优化:MySQL索引策略与查询性能调优实战
【10月更文挑战第26天】数据库作为现代应用系统的核心组件,其性能优化至关重要。本文主要探讨MySQL的索引策略与查询性能调优。通过合理创建索引(如B-Tree、复合索引)和优化查询语句(如使用EXPLAIN、优化分页查询),可以显著提升数据库的响应速度和稳定性。实践中还需定期审查慢查询日志,持续优化性能。
49 0
|
1月前
|
监控 关系型数据库 MySQL
mysql8索引优化
综上所述,深入理解和有效实施这些索引优化策略,是解锁MySQL 8.0数据库高性能查询的关键。
36 0
|
1月前
|
SQL 关系型数据库 MySQL
美团面试:mysql 索引失效?怎么解决? (重点知识,建议收藏,读10遍+)
本文详细解析了MySQL索引失效的多种场景及解决方法,包括破坏最左匹配原则、索引覆盖原则、前缀匹配原则、`ORDER BY`排序不当、`OR`关键字使用不当、索引列上有计算或函数、使用`NOT IN`和`NOT EXISTS`不当、列的比对等。通过实例演示和`EXPLAIN`命令分析,帮助读者深入理解索引失效的原因,并提供相应的优化建议。文章还推荐了《尼恩Java面试宝典》等资源,助力面试者提升技术水平,顺利通过面试。
|
1月前
|
关系型数据库 MySQL 数据库
深入浅出MySQL索引优化:提升数据库性能的关键
在这个数据驱动的时代,数据库性能的优劣直接关系到应用的响应速度和用户体验。MySQL作为广泛使用的数据库之一,其索引优化是提升查询性能的关键。本文将带你一探MySQL索引的内部机制,分析索引的类型及其适用场景,并通过实际案例演示如何诊断和优化索引,以实现数据库性能的飞跃。
下一篇
无影云桌面