【MySQL进阶-02】mysql的explain执行计划以及索引优化

本文涉及的产品
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
云数据库 RDS MySQL Serverless,价值2615元额度,1个月
简介: 【MySQL进阶-02】mysql的explain执行计划以及索引优化

一,案例

1,建表

 CREATE TABLE `employees` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `name` varchar(24) NOT NULL DEFAULT '' COMMENT '姓名',
  `age` int(11) NOT NULL DEFAULT '0' COMMENT '年龄',
  `position` varchar(20) NOT NULL DEFAULT '' COMMENT '职位',
  `hire_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '入职时间',
  PRIMARY KEY (`id`),
  KEY `idx_name_age_position` (`name`,`age`,`position`) USING BTREE
 ) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8 COMMENT='员工记录表';

2,增加索引

#增加普通索引
ALTER TABLE `employees` ADD INDEX `idx_hire_time` (`hire_time`) USING BTREE
#增加联合索引(这里只是写一下索引的增加和删除方式)
alter table employees add index idx_n_a(name,age);

3,查看表中的全部索引信息,以下两种方式都可以

show index from employees;
show KEYS from employees;

4,删除索引

drop index idx_n_a on employees

5,插入数据

INSERT INTO employees(name,age,position,hire_time) VALUES('LiLei',22,'manager',NOW());
INSERT INTO employees(name,age,position,hire_time) VALUES('HanMeimei', 23,'dev',NOW());
INSERT INTO employees(name,age,position,hire_time) VALUES('Lucy',23,'dev',NOW());

6,再插入10w条数据

drop procedure if exists insert_emp;
 delimiter ;;
 create procedure insert_emp()
 begin
  declare i int;
  set i=1;
  while(i<=100000)do
  insert into employees(name,age,position) values(CONCAT('zhenghuisheng',i),i,'dev');
  set i=i+1;
  end while;
 end;;
 delimiter ;
call insert_emp();

二,explain执行计划

再次之前可以先去了解一下b+树的数据结构,再根据b+树来了解索引底层。

EXPLAIN select * from employees where date(hire_time) ='2022-05-03 11:01:17';

使用explain关键字可以模拟优化器质性sql查询语句,从而知道mysql是如何处理sql语句的。explain + sql语句,来查看执行计划的包含信息,接下来对这些参数进行初步讲解。

2.1,id

id的序列号表示 select 执行的顺序,如一个sql中有子查询这种,则通过id表示哪个 select 优先执行。当id相同时,顺序是由上到下,id不同时,如果是子查询,id的序号会递增,id值越大,优先级越高,越先执行。看以下执行结果。

EXPLAIN select * from employees e inner join (select id from employees order by name limit 90000,5) ed on e.id = ed.id;

2.2,select_type

用于区分查询类型,是简单查询还是复杂查询

simple:简单查询,不包含子查询或者union,如一条简单查询

primary:复杂查询的最外层标记,即最外层 select。如有子查询

subquery:包含在 select 中的子查询(不在 from 子句中)

derived:临时表如上面那个 ed 表就是一个临时表

union:排重

union result:结果合并


2.3,type

这一列表示关联类型或者访问类型,即MySQL决定如何查找表中的行,查找数据行记录的大概范围

最好到最差:system > const > eq_ref > ref > range > index > all

System:表中只有一行匹配的数据(实际开发中不会出现),属于const里面的一种特例

const:表示通过索引一次找到,如主键索引和唯一索引

eq_ref:唯一索引扫描,表中只有一条记录与之匹配,如表连接查询时关联表的主键索引或者唯一索引,如上面图中的id=2的类型,即使用主键id进行 join 连接查询

ref:非唯一索引扫描,即使用的普通索引,可以找到多个符合条件的行(实际开发中的最好达到这个要求)

#name字段加了索引
select * from employees where name = 'zhenghuisheng11'

range:范围。只检索给定范围的行,如in(), between ,> ,<, >=如果范围太大的话也会降低效率(实际开发中的最低要求)

index:全索引扫描,一般指的是二级索引扫描,直接走叶子节点遍历扫描,一般为覆盖索引,效率较慢,但是叶子结点数据较小,所以效率依旧比 all 快

all:全表遍历,一般指的是聚簇索引,如主键索引。一级索引在叶子结点里面存储的是对应的value,而二级索引叶子结点里面存储的只是指向对应value的指针,即地址,所以一级索引的也结点相对较大,查询速率先对较慢。所以一般在主键索引和覆盖索引里面,会优先选择走覆盖索引。


2.4,possible_keys

这一列显示查询可能使用了哪些索引。

explain 时可能出现 possible_keys 有列,而 key 显示 NULL 的情况,这种情况是因为表中数据不多,mysql认为索引对此查询帮助不大,选择了全表查询。

如果该列是NULL,则没有相关的索引。在这种情况下,可以通过检查 where 子句看是否可以创造一个适当的索引来提高查询性能,然后用 explain 查看效果。


2.5,key

这一列显示该语句具体使用了那个索引,如果出现 null 不走索引,也可以使用 force index 强制走索引,但是效率不高


2.6,key_len

索引使用的字节数,越短越好


2.7,ref

显示索引的哪一列被使用了,如果可能的话,是一个常数。那些列或常量被用于查找索引列上的值


2.8,rows

根据表统计信息及索引选用情况,大致估算找到所需记录所需要读取的行数


2.9,Extra

常见的有Using index和Using filesort

Using index:使用覆盖索引,如果select后面查询的字段都可以从这个索引的树中获取,这种情况一般可以说是用到了覆盖索引,extra里一般都有using index,如果出现回表的情况,如在查询字段中有一个字段没有加索引或者出现索引失效的问题,导致sql回表走了全表扫描,就可以使用覆盖索引进行优化;覆盖索引一般针对的是辅助索引,整个查询结果只通过辅助索引就能拿到结果,不需要通过辅助索引树找到主键,再通过主键去主键索引树里获取其它字段值

Using filesort:将用外部排序而不是索引排序,数据较小时从内存排序,否则需要在磁盘完成排序

三,索引遵循规则(失效问题)

根据该表的联合索引,来考虑以下的事情

KEY `idx_name_age_position` (`name`,`age`,`position`) USING BTREE

1,全值匹配

EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND age = 22 AND position ='manager';

4c438d81ec9444d0a4550d7fa24d8cfb.png

为简单查询,type类型为ref,key为具体使用了哪个索引,即这个联合索引被使用了,长度140,三个字段都使用到了索引,通过ref也可以发现三个字段都是使用const,即为一个常量


2,最左前缀法则

在联合索引中,需要从左往前依次使用索引,才能生效。即a_b_c这个索引,需要使用了a,b才能使用c,即中间不能断,如果没有使用b的话那么c这个索引会失效。这个可以从b+树的底层了解。可以参考之前写的一篇博客https://blog.csdn.net/zhenghuishengq/article/details/121027025?spm=1001.2014.3001.5502


如下图为一棵联合索引的索引树,每个节点相当于由三个字段组成,会根据字段顺序进行先后排序。以叶子节点为例,该叶子节点的排序会根据第一个字段进行比较,如果第一个字段一样,则开始比较第二个字段,以此类推;如果第一个字段不一样,则会根据ASCII码进行比较,如a在b前面,依次比较;如果所有字段都一样,那可以确定是一个二级索引,因为主键索引不可能一样,二级索引的话可以再根据主键id再进行比较。

3e60fb6f44b649fd8efa0d2d66d35a14.png

也就是说,b+树底层已经帮我们排好序了,如果直接没有使用第一个字段name,直接使用第二个字段age的话,那么可以发现叶子节点上的第二行age字段是并没有排序好的,就会导致重新走全表扫描,导致改索引失效。这就是最左前缀原则。当然如果中间索引没用的话,也会导致后面的索引失效,如直接使用name字段和position字段,没用用age字段,那么position字段也会失效。

根据key_len和ref可知只使用了name一个索引字段,name字段长度为24,所以24x3+2 = 74。

EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND position ='manager';

3,不在索引列上做任何操作

如果在索引列上进行计算、函数、(自动or手动)类型转换,那么可能出现导致索引失效。

1,如在hire_time字段使用日期函数,可能不走索引,但是使用范围查询,就可能会走索引

EXPLAIN select * from employees where date(hire_time) ='2022-05-03 12:58:17';

b0d2a77671cc431fbbcd55ee5e3e68e7.png

4,如果索引中间有使用范围所以,那么后边的索引失效

EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND age > 22 AND position ='manager';

5,尽量使用覆盖索引

即减少使用**select **的使用,将改成具体的字段,防止有查到没有索引或者不在索引树的字段,导致为了查这个字段回表。回表就是说又需要通过id再次进行全表扫描,找出对应的那个字段的值。

EXPLAIN SELECT name,age,position FROM employees WHERE name= 'LiLei' AND age = 23 AND position
='manager';

6,mysql在使用不等于(!=或者<>),not in ,not exists 的时候无法使用索引会导致全表扫描

EXPLAIN SELECT * FROM employees WHERE name != 'zhenghuisheng111'

7,is null,is not null 一般情况下也无法使用索引

mysql底层会把那些为空的字段全部放在一个连续的空间,因此在查询is null的时候,会直接去拿那几个值,不需要通过走索引。

8,like

1,like在使用通配符的情况下,%在前面不走索引 即 liek %xx

EXPLAIN SELECT * FROM employees WHERE name like '%zhenghuisheng11'

2,like在有字符串作为前缀的时候会走索引 like xx%。这个依旧是想想b+树的底层就知道了,和最左前缀匹配原则一致

EXPLAIN SELECT * FROM employees WHERE name like 'zhenghuisheng11%'

3,使用覆盖索引,查询字段必须是建立覆盖索引字段,来查询 %xx%

EXPLAIN SELECT name,age,position FROM employees WHERE name like '%zhenghuisheng%';

9,字符串不加单引号会造成作用失效

字符串不加单引号会造成作用失效,会走全表扫描。如果是一个1000,那么mysql会自动将这个字符串转化为整型,和第三点一样,在索引列上进行了操作,导致索引失效,走了全表扫描

四,不走索引常见类型

1,联合索引第一个字段使用范围,不走索引,因为mysql内部可能觉得第一个字段就用范围,结果集应该很大,回表效率不高,还不如就全表扫描。也可以添加 force index 来强制走索引,但是一般效率不高。

EXPLAIN SELECT * FROM employees WHERE name > 'zhenghuisheng01' AND age = 22 AND position ='manager';
#强制走索引
EXPLAIN SELECT * FROM employees force index(idx_name_age_position) WHERE name > 'zhenghuisheng01' AND age = 22 AND position ='manager';

2,一般在select * 不走索引时,可以通过覆盖索引来实现走索引,即使用具体的字段来查询

EXPLAIN SELECT name,age,position FROM employees WHERE name > 'zhenghuisheng01' AND age = 22 AND position ='manager';

3,in和or在表数据量比较大的情况会走索引,在表记录不多的情况下会选择全表扫描

4,like KK% 一般情况都会走索引

五,常见sql优化

5.1,Order by与Group by优化

根据最左前缀原则,中间字段不能断,所以只走了 name 索引字段。优化方式和常见的优化差不多

EXPLAIN SELECT * FROM employees WHERE name= 'LiLei' AND position ='dev'order by age;

5.2,分页查询优化

select * from employees limit 10000,10;

实际这条 SQL 是先读取 10010 条记录,然后抛弃前 10000 条记录,然后读到后面 10 条想要的数据,因此越到后面效率越低,因此有以下几种优化方式

方式一根据自增且连续的主键排序的分页查询

 select * from employees where id > 90000 limit 5;
#前提条件是数据id必须连续且自增,如果中间数据删除了几条,则不适应此优化方式
#该语句走了索引,并且扫描的行数大大降低

方式二

select * from employees ORDER BY name limit 90000,5;
#根据非主键字段排序的分页查询,name为联合索引第一个,该方式用到了文件排序
#但是由于并没有走索引,并且扫描了全部的行,走了全表扫描,效率更低

方式三(推荐)

select * from employees e inner join (select id from employees order by name limit 90000,5) ed on e.id = ed.id;
#通过内连接查询,首先内连接查出全部id,会走name字段索引,再通过id进行联表查五个值即可

5.3,join连接查询优化

表关联主要有两种常见的算法

嵌套循环连接 Nested-Loop Join(NLJ) 算法

基于块的嵌套循环连接 Block Nested-Loop Join(BNL)算法

接下来来一个示例,创建两张表,一张表插入100条数据,一张表插入10000条数据。如下

CREATE TABLE `t1` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `a` int(11) DEFAULT NULL,
  `b` int(11) DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `idx_a` (`a`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
#保证两表的结构一样
create table t2 like t1;
-- 插入一些示例数据
-- 往t1表插入1万行记录
drop procedure if exists insert_t1; 
delimiter ;;
create procedure insert_t1()        
begin
  declare i int;                    
  set i=1;                          
  while(i<=10000)do                 
    insert into t1(a,b) values(i,i);  
    set i=i+1;                       
  end while;
end;;
delimiter ;
call insert_t1();
-- 往t2表插入100行记录
drop procedure if exists insert_t2; 
delimiter ;;
create procedure insert_t2()        
begin
  declare i int;                    
  set i=1;                          
  while(i<=100)do                 
    insert into t2(a,b) values(i,i);  
    set i=i+1;                       
  end while;
end;;
delimiter ;
call insert_t2();

1、 嵌套循环连接 Nested-Loop Join(NLJ) 算法

这里主要针对建了索引的字段


35e9d5fa774947a99a66033802341d30.png优化器一般会优先选择小表做驱动表,用where条件过滤完驱动表,然后再跟被驱动表做关联查询。而且小表走的是全表扫描,大表是 ref ,并且走了索引,因此效率比较高。在该算法中,使用left join时,左表是驱动表,右表是被驱动表,当使用right join时,右表时驱动表,左表是被驱动表,当使用join时,mysql会选择数据量比较小的表作为驱动表,大表作为被驱动表,一般驱动表会选择数据较小的表作为驱动表。

因此在上面的算法中,mysql的流程如下:先选择 t2 表作为驱动表,然后先从表中取一条数据a,在和t1 表中的数据进行比对,由于t1表直接走了索引,索引t2 表取一次,t1表也可以通过索引一次找到,并且返回给客户端。所以只需要比对100+100次就可以将数据找出,即两百次。2,基于块的嵌套循环连接 Block Nested-Loop Join(BNL)算法

这里主要针对在关联查询时没有建立索引的字段

EXPLAIN select * from t1 inner join t2 on t1.a= t2.a;

486297f2eceb4e1eb3761ea7daf3165a.png

在该算法中,mysql的流程如下:也会选择表中数据较少的表作为驱动器,即把 t2 的所有数据放入到 join_buffer 中,再把表 t1 中每一行取出来,跟 join_buffer 中的数据做对比,由于该字段没有建索引,所以该字段在sql中是无序的,所以需要对表 t1 和 t2 都做一次全表扫描,因此扫描的总行数为10000(表 t1 的数据总量) + 100(表 t2 的数据总量) = 10100。并且 join_buffer 里的数据是无序的,因此对表 t1 中的每一行,都要做 100 次判断,所以内存中的判断次数是 100 * 10000= 100 万次。


针对上诉的join联表描述,作一下总结

1,关联字段加索引

2,小表驱动大表

3,最多关联不要超过三张表

5.4,in和exsits优化

原则:小表驱动大表,即小的数据集驱动大的数据集

select * from A where id in (select id from B)  
#in:当B表的数据集小于A表的数据集时,in优于exists 
select * from A where exists (select 1 from B where B.id = A.id)
#exists:当A表的数据集小于B表的数据集时,exists优于in

5.5count(*)查询优化

mysql> EXPLAIN select count(1) from employees;  1
mysql> EXPLAIN select count(id) from employees;  2
mysql> EXPLAIN select count(name) from employees;  3
mysql> EXPLAIN select count(*) from employees;  4

在经过测试之后,可以发现四个sql的执行计划一样,说明这四个sql执行效率应该差不多

1和4效率差不多 > count(字段) > count(主键id),因为二级索引比主键索引小,数据比主键索引少,所以count(字段) > count(主键id)。如果name没有索引,则id>字段

六,字段数据类型讲解

这里主要讲解字段数据类型和 key_len 的关系,基本常用的如下

字符串

一个数字   或字母占1个字节,一个汉字占3个字节
char(n):如果存汉字长度就是 3n 字节
varchar(n):如果存汉字则长度是 3n + 2 字节,加的2字节用来存储字符串长度,因为
varchar是变长字符串

数值类型

tinyint:1字节
smallint:2字节
int:4字节
bigint:8字节


时间类型

date:3字节
timestamp:4字节
datetime:8字节

而索引列数据类型本身占用空间+额外空间,所以像上面的name字段走索引,他的key_len长度就为 24 x 3 + 2 = 74。所以在设计表的时候就不要直接写255长度了。最好根据实际大小填写。

最后解释一下这个 int(n),这个n不是代表实际的长度,而是代表可见的长度。

七,总结

接下来以一个是否走索引的图表来总结

相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
2月前
|
SQL 存储 关系型数据库
SQL优化之Explain详解(mysql)
`Explain`是MySQL中用于分析SQL查询执行计划的工具。它可以帮助我们了解MySQL如何执行SQL语句,包括如何使用索引、预计的行数以及查询的顺序。以下是`Explain`输出的关键列及其含义的简要摘要: 1. **id**:查询的序列号,表示查询中的子句层次,id越大优先级越高。 2. **select_type**:表示查询的类型,如SIMPLE(简单查询)、PRIMARY(主查询,多表查询中的第一个查询)、SUBQUERY(子查询)、DERIVED(派生表)或UNION(UNION操作的查询部分)。 3. **table**:查询涉及的表名,如果是子查询,可能显示为衍生表
31 0
|
3月前
|
SQL 存储 关系型数据库
MySQL索引(二)索引优化方案有哪些
MySQL索引(二)索引优化方案有哪些
52 0
|
2月前
|
SQL 缓存 关系型数据库
MySQL的万字总结(缓存,索引,Explain,事务,redo日志等)
MySQL的万字总结(缓存,索引,Explain,事务,redo日志等)
68 0
|
3月前
|
SQL 算法 关系型数据库
MySQL索引优化实战二
MySQL索引优化实战二
|
3月前
|
SQL 存储 关系型数据库
Mysql索引优化实战一
Mysql索引优化实战一
|
3月前
|
SQL 关系型数据库 MySQL
【JavaEE进阶】 数据库连接池与MySQL企业开发规范
【JavaEE进阶】 数据库连接池与MySQL企业开发规范
|
3月前
|
存储 关系型数据库 MySQL
MySQL技能完整学习列表6、查询优化——1、EXPLAIN命令的使用——2、索引优化
MySQL技能完整学习列表6、查询优化——1、EXPLAIN命令的使用——2、索引优化
23 0
|
3月前
|
存储 SQL 关系型数据库
MySQL - 索引优化
MySQL - 索引优化
|
3月前
|
SQL 存储 关系型数据库
MySQL - Explain详解
MySQL - Explain详解
|
3月前
|
SQL 监控 关系型数据库
MySQL Binlog深度解析:进阶应用与实战技巧【进阶应用】
MySQL Binlog深度解析:进阶应用与实战技巧【进阶应用】
45 0