MySQL索引优化三

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: MySQL索引优化三

这篇文章继续讨论剩下的内容,同样,请一定要先看MySQL索引优化一

分页查询

在平常,我们写的分页查询sql一般是这样

explain select * from employees order by name limit 10000,10;

这样的sql你会发现越翻到后面查询会越慢,这是因为这里看似是从表中查询10条记录,实际上是在表中查询了10010条记录,然后将10000条记录丢弃所得到的结果。

优化sql如下:

explain select * from employees t1 join (select id from employees order by `name` limit 10000, 10) t2 on t1.id = t2.id;

执行计划:

image-20230123092745913

优化思路:先使用覆盖索引方式查出10条数据,再使用这10条数据连接查询。

覆盖索引:查询的字段被索引完全覆盖,比如id在联合索引中

原理:结合MySQL数据结构, 主键索引(innodb引擎)会存储完整的记录,而二级索引只存储主键。MySQL一个结点默认为16KB。

故:二级索引一个叶子结点能够存放的记录会多的多,扫描二级索引比扫描主键索引的IO次数会少很多。

图示:

优化前sql查询时间

image-20230123092607529

set global query_cache_size=0;

set global query_cache_type=0;

优化后:

image-20230123093007842

Join查询

jion查询分为内连接,左连接,右连接;

关联时又有两种情况:使用索引字段关联,不使用索引字段关联。

我以案例举例说明,如以下两张表t1,t2, a字段有索引,b字段无索引

CREATE TABLE `t1` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `a` int(11) DEFAULT NULL,
  `b` int(11) DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `idx_a` (`a`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

t2表结构与t1完全相同

其中t1表具有1w条数据,t2表具有100条数据。

使用索引字段关联查询

explain select * from t1 inner join t2 on t1.a = t2.a;

执行计划:

image-20230122111216120

分析执行计划:

1、先全表扫描t2表(100条数据)

2、使用t2表的a字段关联查询t1表,使用索引idx_a

3、取出t1表中满足条件的行,和t2表的数据合并,返回结果给客户端

成本计算:

1、扫描t2表:100次

2、扫描t1表:100次,因为使用索引可以定位出的数据,这个过程的时间复杂度大概是O(1)

此处说的100次只是为了更好的计算和理解,实际可能就几次

翻译成代码可能是这样:

for x in range(100): # 循环100次
  print(x in t1) # 一次定位

所以总计扫描次数:100+100=200次

这里引出两个概念

小表驱动大表, 小表为驱动表,大表为被驱动表

  • inner join时,优化器一般会优先选择小表做驱动表, 排在前面的表并不一定就是驱动表。
  • left join时,左表是驱动表,右表是被驱动表
  • right join时,右表时驱动表,左表是被驱动表

嵌套循环连接 Nested-Loop Join(NLJ) 算法

一次一行循环地从第一张表(驱动表)中读取行,在这行数据中取到关联字段,根据关联字段在另一张表(被驱动表)里取出满足条件的行,然后取出两张表的结果合集。

使用索引字段关联查询的一般为NLJ算法

使用非索引字段查询

explain select * from t1 inner join t2 on t1.b = t2.b;

执行计划:

image-20230123094246851

Extra列:Using join buffer:使用join buffer(BNL算法)

分析执行计划:

1、先全表扫描t2表(100条数据),将数据加载到join buffer(内存)中

2、全表扫描t1表,逐一和join buffer中的数据比对

3、返回满足条件的行

成本计算:

1、扫描t2表:100次

2、扫描t1表:1w次

3、在内存中比对次数:100*10000=100w次

翻译成代码可能是这样:

for i in range(100): # 循环100次
  for j in range(10000) # 循环10000次

所以总计扫描次数为:100+10000=10100次,内存中数据比对次数为:100*1w=100w次

这个过程称为:基于块的嵌套循环连接Block Nested-Loop Join(BNL)算法

驱动表的数据读入到join buffer中,然后扫描被驱动表,把被驱动表每一行取出来跟join buffer中的数据做对比。

使用BNL算法join buffer不够时怎么办?

案例中t2表只有一百行数据,如果数据量很大时,比如t2表一共有1000行数据,join buffer一次只能放800行时怎么办?

此时会使用分段放的策略:先放入800行到join buffer,然后扫描t1表,比对完毕之后,将join buffer清空,放入剩余的200行,再次扫描t1表,再比对一次。

也就是说:此时会多扫描一次t1表,如果2次都放不下,就再多扫描一次,以此类推。

小结

join查询中一般有两种算法:

  • 嵌套循环连接(NLJ)算法:使用索引字段关联查询
  • 基于块的嵌套循环连接(BNL)算法:使用非索引字段关联查询

NLJ算法比BNL算法性能更高

关联查询的优化方式:

  • 对关联字段加索引:让MySQL尽量选择NLJ算法
  • 小表驱动大表:一般来说MySQL优化器会自己判断哪个是小表,如果使用left joinright join是要注意。
  • 如果不得已要使用BNL算法,那么在内存充足的情况下,可以调大一些join buffer,避免多次扫描被驱动表。

为什么非索引字段不使用NLJ算法?

NLJ算法性能这么好,为什么非索引字段关联时不使用这种算法呢?

这是因为NLJ算法采用的是磁盘扫描方式:先扫驱动表,取出一行数据,通过该数据的关联字段到被驱动表中查找,这个过程是使用索引查找的,非常快。

如果非索引字段采用这种方式,那么通过驱动表的数据的关联字段,到被驱动表中查找时,由于无法使用索引,此时走的是全表扫描。

比如驱动表有100条数据,那么就要全表扫描被驱动表100次,被驱动表有1w条数据,那么就是磁盘IO:100*1w=100w次,这个过程是非常慢的。

In&Exist

in和exist的优化只有一个原则:小表驱动大表

in:当B表的数据集小于A表的数据集时,in优于exists

select * from A where id in (select id from B)

即in中的表为小表

exist: 当A表的数据集小于B表的数据集时,exists优于in

select * from A where exists (select 1 from B where B.id = A.id)

即外层的表为小表

count查询

关于count这里就不详细说明了,因为各种用法效率都差不多。

字段有索引:count(*)≈count(1)>count(字段)≈count(主键 id)

字段无索引:count(*)≈count(1)>count(主键 id)>count(字段)

索引设计原则

关于索引部分到这里就差不多了,总结一下索引设计原则

  1. 先写代码,再根据情况建索引
    一般来说,都是都没代码写完之后,才能明确哪些字段会用到索引,但我也发现大部人写完代码就不管了。所以如果在设计时可以初步知道哪些字段可以建立索引,那么可以在设计表时就建好索引,写完代码再做调整
  2. 尽量让联合索引覆盖大部分业务
    一个表不要建立太多的索引,因为MySQL维护索引也是需要耗费性能的,所以尽量让一到三个联合索引就覆盖业务里面的sql查询条件
  3. 不要在小基数的字段上建索引
    如果在小基数的字段上建立索引是没有意义的,如性别,一张1千万数据的表,对半分的话500w男,500w女,筛选不出什么。
  4. 字符串长度过长的索引可以取部分前缀建立索引
    字段过长的话也会导致索引占用的磁盘空间比较大,如varcahr(255), 这个时候可以取部分前缀建立索引,如前20个字符。但要注意的是,这样会导致排序失效,因为只取了前20个字符串,索引只能保证大范围的有序。

也可以在后期根据一定的计算规则计算最佳索引长度:distinct(left(字段,长度))/count约等于1

  1. 后期可以根据慢sql日志继续优化索引
    随意业务的迭代,查询条件也会发生改变,此时可以根据慢sql持续优化索引
  2. 可以建唯一索引,尽量建唯一索引
  3. where条件和order by冲突时时,优先取where的条件建索引
    因为筛选出数据后,一般数据量比较少,排序的成本不大,所以优先让数据更快的筛选出来。

相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
5天前
|
SQL 关系型数据库 MySQL
大厂面试官:聊下 MySQL 慢查询优化、索引优化?
MySQL慢查询优化、索引优化,是必知必备,大厂面试高频,本文深入详解,建议收藏。关注【mikechen的互联网架构】,10年+BAT架构经验分享。
大厂面试官:聊下 MySQL 慢查询优化、索引优化?
|
27天前
|
存储 关系型数据库 MySQL
阿里面试:为什么要索引?什么是MySQL索引?底层结构是什么?
尼恩是一位资深架构师,他在自己的读者交流群中分享了关于MySQL索引的重要知识点。索引是帮助MySQL高效获取数据的数据结构,主要作用包括显著提升查询速度、降低磁盘I/O次数、优化排序与分组操作以及提升复杂查询的性能。MySQL支持多种索引类型,如主键索引、唯一索引、普通索引、全文索引和空间数据索引。索引的底层数据结构主要是B+树,它能够有效支持范围查询和顺序遍历,同时保持高效的插入、删除和查找性能。尼恩还强调了索引的优缺点,并提供了多个面试题及其解答,帮助读者在面试中脱颖而出。相关资料可在公众号【技术自由圈】获取。
|
9天前
|
SQL 关系型数据库 MySQL
MySQL慢查询优化、索引优化、以及表等优化详解
本文详细介绍了MySQL优化方案,包括索引优化、SQL慢查询优化和数据库表优化,帮助提升数据库性能。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
MySQL慢查询优化、索引优化、以及表等优化详解
|
14天前
|
缓存 监控 关系型数据库
如何优化MySQL查询速度?
如何优化MySQL查询速度?【10月更文挑战第31天】
41 3
|
16天前
|
缓存 关系型数据库 MySQL
如何优化 MySQL 数据库的性能?
【10月更文挑战第28天】
39 1
|
24天前
|
NoSQL 关系型数据库 MySQL
MySQL与Redis协同作战:百万级数据统计优化实践
【10月更文挑战第21天】 在处理大规模数据集时,传统的单体数据库解决方案往往力不从心。MySQL和Redis的组合提供了一种高效的解决方案,通过将数据库操作与高速缓存相结合,可以显著提升数据处理的性能。本文将分享一次实际的优化案例,探讨如何利用MySQL和Redis共同实现百万级数据统计的优化。
61 9
|
18天前
|
监控 关系型数据库 MySQL
数据库优化:MySQL索引策略与查询性能调优实战
【10月更文挑战第27天】本文深入探讨了MySQL的索引策略和查询性能调优技巧。通过介绍B-Tree索引、哈希索引和全文索引等不同类型,以及如何创建和维护索引,结合实战案例分析查询执行计划,帮助读者掌握提升查询性能的方法。定期优化索引和调整查询语句是提高数据库性能的关键。
85 1
|
24天前
|
NoSQL 关系型数据库 MySQL
MySQL与Redis协同作战:优化百万数据查询的实战经验
【10月更文挑战第13天】 在处理大规模数据集时,传统的关系型数据库如MySQL可能会遇到性能瓶颈。为了提升数据处理的效率,我们可以结合使用MySQL和Redis,利用两者的优势来优化数据查询。本文将分享一次实战经验,探讨如何通过MySQL与Redis的协同工作来优化百万级数据统计。
53 5
|
28天前
|
存储 关系型数据库 MySQL
如何在MySQL中进行索引的创建和管理?
【10月更文挑战第16天】如何在MySQL中进行索引的创建和管理?
58 1
|
28天前
|
存储 关系型数据库 MySQL
优化 MySQL 的锁机制以提高并发性能
【10月更文挑战第16天】优化 MySQL 锁机制需要综合考虑多个因素,根据具体的应用场景和需求进行针对性的调整。通过不断地优化和改进,可以提高数据库的并发性能,提升系统的整体效率。
49 1