《MySQL高级篇》四、索引的存储结构(一)

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群版 2核4GB 100GB
推荐场景:
搭建个人博客
云数据库 RDS MySQL,高可用版 2核4GB 50GB
简介: 《MySQL高级篇》四、索引的存储结构

1. 为什么使用索引


6cc35b57c686a4be354cd5247ccf4146.png

8f3d5bc2e04cb02661091c8b2b1e2f43.png


假如给数据使用 二叉树 这样的数据结构进行存储,如下图所示


65f52ddca020ec6830eb5d16f8d65153.png

7587599bc607ad5edd79eb9178ca4565.png


2、索引及其优缺点


2.1 索引概述


6cbaba56d7e8195112702c5496af57e5.png


2.2 优点


类似大学图书馆建书目索引,提高数据检索的效率,降低 数据库的 IO 成本 这也是创建索引的主要的原因。

通过创建唯一索引,可以保证数据库表中每一行 数据的唯一性 (唯一约束)

在实现数据的参考完整性方面,可以 加速表和表之间的连接。换句话说,对于有依赖关系的子表和父表联合查询时,可以提高查询速度。

在使用分组和排序子句进行数据查询时,可以显著减少查询中分组和排序的时间,降低了 CPU 的消耗。


2.3 缺点


增加索引也有许多不利的方面,主要表现在如下几个方面:


创建索引和维护索引要 耗费时间 (因为索引是排好序的),并且随着数据量的增加,所耗费的时间也会增加。

索引需要占 磁盘空间,除了数据表占数据空间之 外,每一个索引还要占一定的物理空间,存储在磁盘上 ,如果有大量的索引,索引文件就可能比数据文件更快达到最大文件尺寸。

虽然索引大大提高了查询速度,同时却会降低更新表的速度。当对表中的数据进行增加、删除和修改的时候,索引也要动态地维护,这样就降低了数据的维护速度。

因此,选择使用索引时,需要综合考虑索引的优点和缺点。


919000a3288195dc371044c8b2c29273.png


3. InnoDB 中索引的推演


3.1 索引之前的查找


先来看一个精确匹配的例子:

SELECT [列名列表] FROM 表名 WHERE 列名 = xxx;

3.1.1 在一个页中的查找


76fb1c288a74a1f553f275411a5adf04.png

注意:


数据表中记录之间物理上是不连续的,但是逻辑上是连续的,之间通过单链表进行连接;数据页之间通过双向链表进行连接


以主键为搜索条件:O ( l o g 2 n ) ,以其他列为搜索条件:O ( n )


3.1.2 在很多页中查找


8632564d6703ce72fb48205ea8682291.png


在没有索引的情况下,不论是根据主键列或者其他列的值进行查找,由于我们并不能快速的定位到记录所在的页,所以只能 从第一个页 沿着 双向链表一直往下找,在每一个页中根据我们上面的查找方式去查找指定的记录。因为要遍历所有的数据页,所以这种方式显然是 超级耗时 的。此时 索引 应运而生。


我们可以联想下学校的图书馆:所有书架上有着对应的编号,每个书架中有着分区从A-Z。借书时,先根据书的类型找到对应的书架,再从书架中对应的分区找到目标书籍。


6209f829106a0b55b94ef2683204e6e5.png


3.2 设计索引


建一个表:


mysql> CREATE TABLE index_demo(
        -> c1 INT,
        -> c2 INT,
    ->     c3 CHAR(1),
    ->     PRIMARY KEY(c1)
    -> ) ROW_FORMAT = Compact;

这个新建的 index_demo 表中有 2 个 INT 类型的列,1 个 CHAR(1) 类型的列,而且我们规定了 c1 列为主键, 这个表使用 Compact 行格式来实际存储记录的。这里我们简化了 index_demo 表的行格式示意图:


039c71eaeb2887881cfe7590c5ee20ef.png


我们只在示意图里展示记录的这几个部分:


record_type:记录头信息的一项属性,表示记录的类型, 0 表示普通记录、 2 表示最小记 录、 3 表示最大记录、 1 表示目录项的记录,暂时还没用过,下面讲。

next_record:记录头信息的一项属性,表示下一条地址相对于本条记录的地址偏移量,我们用

箭头来表明下一条记录是谁。(用来保证数据逻辑上的连续)

各个列的值:这里只记录在 index_demo 表中的三个列,分别是 c1 、 c2 和 c3。

其他信息:除了上述 3 种信息以外的所有信息,包括其他隐藏列的值以及记录的额外信息。

将记录格式示意图的其他信息项暂时去掉并把它竖起来的效果就是这样:


718a02501a4b4943a40c51fc327d25f8.png


把一些记录放到页里的示意图就是:


369166359676b23bbdc386ad2115d21a.png


3.2.1一个简单的索引设计方案


我们在根据某个搜索条件查找一些记录时为什么要遍历所有的数据页呢?因为各个页中的记录并没有规律,我们并不知道我们的搜索条件匹配哪些页中的记录,所以不得不依次遍历所有的数据页。所以如果我们 想快速的定位到需要查找的记录在哪些数据页 中该咋办?我们可以为快速定位记录所在的数据页而 建立一个目录 。 建这个目录必须完成下边这些事:


下一个数据页中用户记录的主键值必须大于上一个页中用户记录的主键值。


a231594334c4375326a559ff5322de38.png


d945c60bbcdf21f7a795ae30bdc75bdd.png


84368cd1859868511d4d0ea2990d7bf2.png

ac4dd1af72d95b2060f38efdce8b7cab.png


给所有的页建立一个目录项。


6574ea3d05cd8fb806572df6889598c1.png


**注意:**不建立目录项前,每次进行查询(插入)数据时,都要从前往后一个个数据页、一条条记录查找。需要先加载数据页,再二分查找对应的数据。甚至有时候,加载数据页的速度比查找速度还耗时,这样就非常得不偿失了。才有了 为所有的页建立目录项的操作。


所以我们为上边几个页做好的目录就像这样子:


7831b7d4f4b16e69212ec3fea3db91b9.png


以 页 28 为例,它对应 目录项 2 ,这个目录项中包含着该页的页号 28 以及该页中用户记录的最小主键值 5 。我们只需要把几个目录项在物理存储器上连续存储(比如:数组),就可以实现根据主键值快速查找某条记录的功能了。比如:查找主键值为 20 的记录,具体查找过程分两步:


先从目录项中根据 二分法 快速确定出主键值为 20 的记录在 目录项 3 中(因为 12 < 20 < 209 ),它对应的页是 页 9。

再根据前边说的在页中查找记录的方式(二分法)去 页 9 中定位具体的记录。

至此,针对数据页做的简易目录就搞定了。这个目录有一个别名,称为索引 。


3.2.2 InnoDB 中的索引方案


思考一下,我们之前的设计方案有什么问题?


如下图:比如我们要插入三条数据且恰好在页28和页29之间的,那么需要重新创建个数据页,同时创建对应的目录项,但是目录项是保存在数组中的。目录项3、4都需要向后移动,然后才能插入新的目录项。这样的话效率是非常低的。


2828520916334e54d392c704da6c4df0.png


解决办法:为多个目录项建立目录页,目录项之间通过指针方式进行连接(链表),目录页上建立当前页的目录信息,便于后续的二分查找。同时目录项之间指针连接也方便进行插入和删除操作。


具体细节看下面的第一次迭代!


① 迭代 1 次:目录项纪录的页

ce7ba05f174cecff4beec2bccc0ae396.png

b679c039dc16360c3dfefad3866776cf.png


我们把前边使用到的目录项放到数据页中的样子就是这样:


be9a61064ea58d835e2f0fbf074fe95a.png


从图中可以看出来,我们新分配了一个编号为 30 的页来专门存储目录项记录。这里再次强调 目录项记录 和普通的 用户记录 的不同点:


目录项记录 的 record_type 值是 1,而 普通用户记录 的 record_type 值是 0。

目录项记录只有 主键值和页的编号 两个列,而普通的用户记录的列是用户自己定义的,可能包含很多列 ,另外还有 InnoDB 自己添加的隐藏列。

了解:记录头信息里还有一个叫 min_rec_mask 的属性,只有在存储 目录项记录 的页中的主键值最小的目录项记录 的 min_rec_mask 值为 1 ,其他别的记录的 min_rec_mask 值都是 0 。

**相同点:**两者用的是一样的数据页,都会为主键值生成 Page Directory (页目录),从而在按照主键值进行查找时可以使用 二分法 来加快查询速度 (如果没有页目录,链表是无法进行 二分查找)


现在以查找主键为 20 的记录为例,根据某个主键值去查找记录的步骤就可以大致拆分成下边两步:


先到存储 目录项记录的页,也就是页 30 中通过 二分法 快速定位到对应目录项,因为 12 < 20 < 209,所以定位到对应的记录所在的页就是页 9。

再到存储用户记录的页9中根据 二分法 快速定位到主键值为 20 的用户记录。

**注意:**建立目录页后,IO次数也会降低。比如上面的查找只有两次IO


② 迭代 2 次:多个目录项纪录的页


766546c72b64217a31e111a1edcc605a.png

3b1dd1aceaf33a95c06ac486e3c33a52.png


从图中可以看出,我们插入了一条主键值为 320 的用户记录之后需要两个新的数据页:


为存储该用户记录而新生成了 页 31 。

因为原先存储目录项记录的 页 30 的容量已满(我们前边假设只能存储 4 条目录项记录),所以不得不需要一个新的 页 32 来存放 页 31 对应的目录项。(目录页之间用双向链表连接)

现在因为存储目录项记录的页不止一个,所以如果我们想根据主键值查找一条用户记录大致需要 3 个步骤,以查找主键值为 20 的记录为例:


确定 目录项记录页


我们现在的存储目录项记录的页有两个,即 页 30 和 页 32 ,又因为页 30 表示的目录项的主键值的范围是 [1, 320),页 32 表示的目录项的主键值不小于 320 ,所以主键值为 20 的记录对应的目录项记录在 页 30 中。


通过目录项记录页 确定用户记录真实所在的页 。在一个存储 目录项记录 的页中通过主键值定位一条目录项记录的方式说过了。


在真实存储用户记录的页中定位到具体的记录。


**存在的问题:**查找数据第一步,判断数据是在哪个目录项记录页中时,由于目录项记录页之间是双链表连接的,所以只能从前往后进行遍历查找(过程中IO次数较多),之后找到了再二分查找到对应的数据页…


改进办法:为数据项记录页 建立目录页


③ 迭代 3 次:目录项记录页的目录页


16143b496194a96ad086f57a65e8abd6.png

74cd0911e6fb99372ebb8fd47721f117.png



如图,我们生成了一个存储更高级目录项的 页 33 ,这个页中的两条记录分别代表页 30 和页 32,如果用户记录的主键值在 [1, 320) 之间,则到页 30 中查找更详细的目录项记录,如果主键值 不小于 320 的话,就到页 32 中查找更详细的目录项记录。


我们可以用下边这个图来描述它:


12637bd89ff37409e1fe7eb91e1f7237.png


这个数据结构,它的名称是 B+ 树 。


④ B+Tree



一个 B+ 树的节点其实可以分成好多层,规定最下边的那层,也就是存放我们用户记录的那层为第 0 层, 之后依次往上加。之前我们做了一个非常极端的假设:存放用户记录的页 最多存放 3 条记录 ,存放目录项 记录的页 最多存放 4 条记录 。其实真实环境中一个页存放的记录数量是非常大的,假设所有存放用户记录 的叶子节点代表的数据页可以存放 100 条用户记录 ,所有存放目录项记录的内节点代表的数据页可以存 放 1000 条目录项记录 ,那么:


如果 B+ 树只有 1 层,也就是只有 1 个用于存放用户记录的节点,最多能存放 100 条记录。

如果 B+ 树有 2 层,最多能存放 1000×100=10,0000条记录。

如果 B+ 树有 3 层,最多能存放 1000×1000×100=1,0000,0000条记录。 1亿

如果 B+ 树有 4 层,最多能存放 1000×1000×1000×100=1000,0000,0000条记录。相当多的记录!!! 1000亿

你的表里能存放 100000000000 条记录吗?所以一般情况下,我们 用到的 B+ 树都不会超过 4 层 ,那我们通过主键值去查找某条记录最多只需要做 4 个页面内的查找(查找 3 个目录项页和一个用户记录页),又因为在每个页面内有所谓的 Page Directory (页目录),所以在页面内也可以通过二分法实现快速定位记录。


为啥B+ 树都不会超过 4 层呢?


树的层次达到4的时候,可以存储的数据量足够多了(1000亿)。树的层次越低,IO次数就越少,从而效率越高


相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
6天前
|
存储 关系型数据库 MySQL
MySQL——数据库备份上传到阿里云OSS存储
MySQL——数据库备份上传到阿里云OSS存储
20 0
|
3天前
|
SQL 存储 关系型数据库
mysql加索引真的会锁表吗?揭秘背后的技术细节与规避策略
【8月更文挑战第16天】在数据库管理中,添加索引能大幅提升查询效率。MySQL执行此操作时的锁定行为常引起关注。文章详细解析MySQL中索引添加时的锁定机制及其原理。不同存储引擎及SQL语句影响锁定策略:MyISAM需全表锁定;InnoDB提供更灵活选项,如使用`ALTER TABLE... LOCK=NONE`可在加索引时允许读写访问,尽管可能延长索引构建时间。自MySQL 5.6起,在线DDL技术可进一步减少锁定时间,通过`ALGORITHM=INPLACE`和`LOCK=NONE`实现近乎无锁的表结构变更。合理配置这些选项有助于最小化对业务的影响并保持数据库高效运行。
11 4
|
3天前
|
SQL JavaScript 关系型数据库
Mysql索引不当引发死锁问题
本文通过真实案例解析了MySQL在高并发环境下出现死锁的问题。数据库表`t_award`包含多个索引,但在执行特定SQL语句时遭遇索引失效,导致更新操作变慢并引发死锁。分析发现,联合索引`(pool_id, identifier, status, is_redeemed)`因`identifier`允许为空值而导致索引部分失效。此外,`pool_id`上的普通索引产生的间隙锁在高并发下加剧了死锁风险。为解决此问题,文中提出了调整索引顺序至`(pool_id, status, is_redeemed, identifier)`等方案来优化索引使用,进而减轻死锁现象。
|
6天前
|
缓存 NoSQL Redis
一天五道Java面试题----第九天(简述MySQL中索引类型对数据库的性能的影响--------->缓存雪崩、缓存穿透、缓存击穿)
这篇文章是关于Java面试中可能会遇到的五个问题,包括MySQL索引类型及其对数据库性能的影响、Redis的RDB和AOF持久化机制、Redis的过期键删除策略、Redis的单线程模型为何高效,以及缓存雪崩、缓存穿透和缓存击穿的概念及其解决方案。
|
6天前
|
存储 小程序 关系型数据库
原生小程序 获取手机号并进行存储到mysql数据库
原生小程序 获取手机号并进行存储到mysql数据库
|
13天前
|
缓存 关系型数据库 MySQL
MySQL调优秘籍曝光!从索引到事务,全方位解锁高可用秘诀,让你的数据库性能飞起来!
【8月更文挑战第6天】MySQL是顶级关系型数据库之一,其性能直接影响应用的高可用性与用户体验。本文聚焦MySQL的高性能调优,从索引设计到事务管理,逐一解析。介绍如何构建高效索引,如联合索引`CREATE INDEX idx_order_customer ON orders(order_id, customer_id);`,以及索引覆盖查询等技术。
37 0
|
9天前
|
SQL 存储 关系型数据库
"MySQL增列必锁表?揭秘InnoDB在线DDL,让你的数据库操作飞一般,性能无忧!"
【8月更文挑战第11天】在数据库领域,MySQL凭借其稳定高效的表现深受开发者喜爱。对于是否会在给数据表添加列时锁表的问题,MySQL的行为受版本、存储引擎等因素影响。从5.6版起,InnoDB支持在线DDL,可在改动表结构时保持表的可访问性,避免长时间锁表。而MyISAM等则需锁表完成操作。例如,在使用InnoDB的表上运行`ALTER TABLE users ADD COLUMN email VARCHAR(255);`时,通常不会完全锁表。虽然在线DDL提高了灵活性,但复杂操作或大表变更仍可能暂时影响性能。因此,进行结构变更前应评估其影响并择机执行。
31 6
|
8天前
|
Oracle 关系型数据库 MySQL
Mysql和Oracle数据库死锁查看以及解决
【8月更文挑战第11天】本文介绍了解决MySQL与Oracle数据库死锁的方法。MySQL可通过`SHOW ENGINE INNODB STATUS`查看死锁详情,并自动回滚一个事务解除死锁;也可手动KILL事务。Oracle则通过查询V$LOCK与V$SESSION视图定位死锁,并用`ALTER SYSTEM KILL SESSION`命令终止相关会话。预防措施包括遵循ACID原则、优化索引及拆分大型事务。
|
9天前
|
固态存储 关系型数据库 MySQL
"惊!20亿数据秒速入MySQL,揭秘数据库极速插入的黑科技,你不可不知的绝密技巧!"
【8月更文挑战第11天】面对20亿级数据量,高效插入MySQL成为挑战。本文探讨优化策略:合理设计数据库减少不必要的字段和索引;使用批量插入减少网络往返;优化硬件如SSD和内存及调整MySQL配置;并行处理加速插入;附Python示例代码实现分批导入。这些方法将有效提升大规模数据处理能力。
25 2
|
10天前
|
存储 关系型数据库 MySQL
"Linux环境下MySQL数据库名及表名大小写敏感性设置详解:从配置到影响,确保数据库操作的准确与高效"
【8月更文挑战第9天】在Linux环境中,MySQL数据库名及表名的大小写敏感性是一项重要配置。默认情况下,MySQL在Linux上区分大小写,但这可通过配置文件 `/etc/my.cnf` 中的 `lower_case_table_names` 参数调整。该参数设为0时,名称存储时保持原样,查询时不区分大小写;设为1则全部转换为小写。通过编辑配置文件并重启MySQL服务,可根据需求灵活控制名称的大小写敏感性,确保数据一致性和应用兼容性。
28 3

热门文章

最新文章