MYSQL数据库-索引（上）

零、前言

本章主要讲解MYSQL数据库中的索引这一重要知识点

一、索引概念

• 索引的价值：

提高数据库的性能，索引是物美价廉的东西了：不用加内存，不用改程序，不用调sql，只要执行正确的create index ，查询速度就可能提高成百上千倍，但是查询速度的提高是以插入、更新、删除的速度为代价的，这些写操作，增加了大量的IO，所以索引的价值，在于提高一个海量数据的检索速度

• 常见索引分为：

1. 主键索引(primary key)
   
2. 唯一索引(unique)
   
3. 普通索引(index)
   
4. 全文索引(fulltext)–解决中子文索引问题
   

• 示例：在海量表数据表中进行查询

• 示例：在海量表数据表中进行查询

• 解决方法：创建员工编号索引

二、认识磁盘

• MySQL与存储：

1. MySQL 给用户提供存储服务，而存储的都是数据，数据在磁盘这个外设当中
2. 磁盘是计算机中的一个机械设备，相比于计算机其他电子元件，磁盘效率是比较低的，在加上IO本身的特征，可以知道，如何提交效率是 MySQL 的一个重要话题

• 磁盘：

• 扇区：

1. 数据库文件，本质其实就是保存在磁盘的盘片当中。数据库文件很大很多，一定需要占据多个扇区
   
2. 在半径方向上，距离圆心越近，扇区越小，距离圆心越远，扇区越大
3. 目前所有扇区都是默认512字节，保证一个扇区多大，是由比特位密度决定的
   
4. 在使用Linux所看到的大部分目录或者文件，其实就是保存在硬盘当中的(当然一些内存文件系统，如：proc ， sys 之类我们不考虑)
   
5. 所以找到一个文件的全部，本质就是在磁盘找到所有保存文件的扇区，而定位任何一个扇区，那么便能找到所有扇区，因为查找方式是一样的
   

• 定位扇区：

通过磁头（Heads）、柱面(Cylinder)(等价于磁道)、扇区(Sector)对应的编号，即可在磁盘上定位所要访问的扇区，这种磁盘数据定位方式叫做 CHS 。不过实际系统软件使用的并不是 CHS （但是硬件是），而是 LBA ，一种线性地址，可以想象成虚拟地址与物理地址，系统将 LBA 地址最后会转化成为 CHS ，交给磁盘去进行数据读取，使得上下层数据交互关系解耦

• MySQL 与磁盘交互基本单位：

1. MySQL 作为一款应用软件，一种特殊的文件系统，它有着更高的IO场景，所以为了提高基本的IO效率， MySQL 进行IO的基本单位是 16KB (并不是直接按照扇区(512字节,部分4096字节) )进行IO交互)
2. 也就是说，磁盘这个硬件设备的基本单位是 512 字节，而 MySQL InnoDB引擎 使用 16KB 进行IO交互。即MySQL 和磁盘进行数据交互的基本单位是 16KB 。这个基本数据单元，在 MySQL 这里叫做page（注意和系统的page区分）

• 基础共识：

1. MySQL 中的数据文件，是以page为单位保存在磁盘当中的
2. MySQL 的 CURD 操作，都需要通过计算，找到对应的插入位置，或者找到对应要修改或者查询的数据
3. 而只要涉及计算，就需要CPU参与，而为了便于CPU参与，一定要能够先将数据移动到内存当中
4. 所以在特定时间内，数据一定是磁盘中有，内存中也有。后续操作完内存数据之后，以特定的刷新策略，刷新到磁盘，而这时就涉及到磁盘和内存的数据交互，也就是IO了，而此时IO的基本单位就是Page
5. 为了更好的进行上面的操作， MySQL 服务器在内存中运行的时候，在服务器内部，就申请了被称为 Buffer Pool 的的大内存空间，来进行各种缓存，其实就是很大的内存空间，来和磁盘数据进行IO交互
6. 为何更高的效率，一定要尽可能的减少系统和磁盘IO的次数

三、理解索引

1、如何理解Page

• 示例：

• 为何IO交互要是 Page ：

1. 如上面的5条记录，假如mysql想要上边的数据每次只拿一条数据，但是每一次拿数据就要一次IO；但如果这些记录都被保存在一个Page中(16KB，能保存很多记录),那么第一次IO查找id=2的时候，整个Page会被加载到MySQL的Buffer Pool中，这里完成了一次IO。但是往后如果在查找id=1,3,4,5等，完全不需要进行IO了，而是直接在内存中进行了，所以在单Page里面，大大减少了IO的次数
2. 我们不能严格保证用户一定下次找的数据在这个Page里面，但是有很大概率，因为有局部性原理
3. 往往IO效率低下的最主要矛盾不是IO单次数据量的大小，而是IO的次数

• 理解单个Page：

1. MySQL 中要管理很多数据表文件，而要管理好这些文件，就需要 先描述，在组织 ,我们目前可以简单理解成一个个独立文件是有一个或者多个Page构成的
2. 不同的 Page ，在 MySQL 中，都是 16KB ，使用 prev 和 next 构成双向链表
3. 因为有主键的问题， MySQL 会默认按照主键给我们的数据进行排序，从上面的Page内数据记录可以看出，数据是有序且彼此关联的

• 为什么数据库在插入数据时要对其进行排序：

1. 插入数据时排序的目的，就是优化查询的效率
2. 页内部存放数据的模块，实质上也是一个链表的结构，链表的特点也就是增删快，查询修改慢，所以优化查询的效率是必须的
3. 正式因为有序，在查找的时候，从头到后都是有效查找，没有任何一个查找是浪费的，而且如果运气好，是可以提前结束查找过程的

• 理解多个Page：

1. 页模式中只有一个功能，就是在查询某条数据的时候直接将一整页的数据加载到内存中，以减少硬盘IO次数，从而提高性能。但是，我们也可以看到，现在的页模式内部，实际上是采用了链表的结构，前一条数据指向后一条数据，本质上还是通过数据的逐条比较来取出特定的数据
2. 如果有1千万条数据，一定需要多个Page来保存1千万条数据，多个Page彼此使用双链表链接起来，而且每个 Page 内部的数据也是基于链表的。那么查找特定一条记录，也一定是线性查找，这效率太低了

• 页目录：

1. 我们在看《谭浩强C程序设计》这本书的时候，如果我们要看<指针章节>，找到该章节有两种做法从头逐页的向后翻，直到找到目标内容通过书提供的目录，发现指针章节在234页(假设)，那么我们便直接翻到234页。同时查找目录的方案，可以顺序找，不过因为目录可以快速提高定位
   
2. 本质上书中的目录是多花了纸张的，但是却提高了效率，所以目录是一种“空间换时间的做法”
   

• 单页情况：

针对上面的单页Page，我们也能引入目录

1. 在一个Page内部引入了目录：比如，我们要查找id=4记录，之前必须线性遍历4次，才能拿到结果。现在直接通过目录2[3]，直接进行定位新的起始位置，提高了效率
   
2. 现在我们可以再次正式回答上面的问题了，为何通过键值 MySQL 会自动排序？可以很方便引入目录
   

• 多页情况：

MySQL 中每一页的大小只有 16KB ，单个Page大小固定，所以随着数据量不断增大， 16KB 不可能存下所有的数据，那么必定会有多个页来存储数据

1. 在单表数据不断被插入的情况下， MySQL 会在容量不足的时候，自动开辟新的Page来保存新的数据，然后通过指针的方式，将所有的Page组织起来
   
2. 注意，上图是理想结构，目前要保证整体有序，那么新插入的数据，不一定会在新Page上面，这里仅仅做演示
3. 通过多个Page遍历，Page内部通过目录来快速定位数据。可是在Page之间，也是需要 MySQL 遍历的，遍历意味着依旧需要进行大量的IO，将下一个Page加载到内存，进行线性检测
   
4. 解决方案就是我们之前的思路，给Page也带上目录：使用一个目录项来指向某一页，而这个目录项存放的就是将要指向的页中存放的最小数据的键值，和页内目录不同的地方在于，这种目录管理的级别是页，而页内目录管理的级别是行
   
5. 其中每个目录项的构成是：键值+指针
   

1. 存在一个目录页来管理页目录，目录页中的数据存放的就是指向的那一页中最小的数据。有数据，就可通过比较，找到该访问那个Page，进而通过指针，找到下一个Page
   
2. 其实目录页的本质也是页，普通页中存的数据是用户数据，而目录页中存的数据是普通页的地址
   
3. 可是每次检索数据的时候，该从哪里开始呢？虽然顶层的目录页少了，但是还要遍历啊？不用担心，可以再加目录页
   

1. 这就是传说中的B+树，至此，我们已经给我们的表user构建完了主键索引
2. 随便找一个id=？我们发现，现在查找的Page数一定减少了，也就意味着IO次数减少了，那么效率也就提高了
3. 复盘一下Page分为目录页和数据页。目录页只放各个下级Page的最小键值
4. 查找的时候，自定向下找，只需要加载部分目录页到内存，即可完成算法的整个查找过程，大大减少了IO次数

• InnoDB 在建立索引结构来管理数据的时候，其他数据结构为何不行：

1. 链表：线性遍历
2. 二叉搜索树：退化问题，可能退化成为线性结构
   
3. AVL &&红黑树：虽然是平衡或者近似平衡，但是毕竟是二叉结构，相比较多阶B+，意味着树整体过高，大家都是自顶向下找，层高越低，意味着系统与硬盘更少的IO Page交互
4. Hash：官方的索引实现方式中， MySQL 是支持HASH的，不过 InnoDB 和 MyISAM 并不支持，Hash跟进其算法特征，决定了虽然有时候也很快(O(1))，不过，在面对范围查找就明显不行，另外还有其他差别

B树？最值得比较的是 InnoDB 为何不用B树作为底层索引？

2、B+ vs B

1. B树:

2. B+树:

• 目前两棵树最有意义的区别是：

B树节点，既有数据，又有Page指针，而B+，只有叶子节点有数据，其他目录页，只有键值和Page指针B+叶子节点，全部相连，而B没有

• 为何选择B+：

1. 节点不存储data，这样一个节点就可以存储更多的key。可以使得树更矮，所以IO操作次数更少
2. 叶子节点相连，更便于进行范围查找

3、聚簇索引 VS 非聚簇索引

MyISAM 引擎使用B+树作为索引结果，叶节点的data域存放的是数据记录的地址

• 下图为 MyISAM 表的主索引，Col1 为主键：

1. MyISAM 最大的特点是，将索引Page和数据Page分离，也就是叶子节点没有数据，只有对应数据的地址
2. 相较于 InnoDB 索引， InnoDB 是将索引和数据放在一起的

-- 终端A
mysql> create database myisam_test; -- 创建数据库
Query OK, 1 row affected (0.00 sec)
mysql> use myisam_test;
Database changed
mysql> create table mtest(
-> id int primary key,
-> name varchar(11) not null
-> )engine=MyISAM; -- 使用engine=MyISAM
Query OK, 0 rows affected (0.01 sec)
-- 终端B
[root@VM-0-3-centos mysql]# ls myisam_test/ -al --mysql数据目录下
total 28
drwxr-x--- 2 mysql mysql 4096 Jun 13 13:33 .
drwxr-x--x 13 mysql mysql 4096 Jun 13 13:32 ..
-rw-r----- 1 mysql mysql 61 Jun 13 13:32 db.opt
-rw-r----- 1 mysql mysql 8586 Jun 13 13:33 mtest.frm -- 表结构数据
-rw-r----- 1 mysql mysql 0 Jun 13 13:33 mtest.MYD -- 该表对应的数据，当前没有数据，所以是0
-rw-r----- 1 mysql mysql 1024 Jun 13 13:33 mtest.MYI -- 该表对应的主键索引数据

注：MyISAM 这种用户数据与索引数据分离的索引方案，叫做非聚簇索引

-- 终端A
mysql> create database innodb_test; -- 创建数据库
Query OK, 1 row affected (0.00 sec)
mysql> use innodb_test;
Database changed
mysql> create table itest(
-> id int primary key,
-> name varchar(11) not null
-> )engine=InnoDB; -- 使用engine=InnoDB
Query OK, 0 rows affected (0.02 sec)
-- 终端B
[root@VM-0-3-centos mysql]# ls innodb_test/ -al
total 120
drwxr-x--- 2 mysql mysql 4096 Jun 13 13:39 .
drwxr-x--x 14 mysql mysql 4096 Jun 13 13:38 ..
-rw-r----- 1 mysql mysql 61 Jun 13 13:38 db.opt
-rw-r----- 1 mysql mysql 8586 Jun 13 13:39 itest.frm -- 表结构数据
-rw-r----- 1 mysql mysql 98304 Jun 13 13:39 itest.ibd -- 该表对应的主键索引和用户数据，虽然现在一行数据没有，但是该表并不为0，因为有主键索引数据

注：InnoDB 这种用户数据与索引数据在一起索引方案，叫做聚簇索引