小胖问我:group by 怎么优化?(下)

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: 小胖问我:group by 怎么优化?

04 group by 中使用 where & having


写到这里,有小伙伴就说了。狗哥你这里描述的只是 group by 的单独执行过程,很简单呀。我也会,如果加上 where 或者 having 或者两者都加上的时候的执行过程是怎样的呢?


4.1 group by + where


现在产品又改需求统计每个城市下的下单人数,且下的订单量要大于 2。OS:mmp,又改


按照惯例,看到 where 我们一般想到怎么优化?没错,加索引嘛。


加索引:


alter table sale_order add index idx_order_num (order_num);


最终语句:


select city, count(*) as num from sale_order where order_num > 2 group by city;


结果:


640.png


explain 分析:


640.png


从上图得知,加上索引之后。这条语句命中了索引 idx_order_number,并且此时的 Extra 多了 Using index Condition 的执行计划。type 变成了 range 说明不用全表扫描


解释下 Using index Condition:会先条件过滤索引,过滤完索引后找到所有符合索引条件的数据行,常见于 where 中有 between > < 等条件的 sql 语句


它的出现说明这个语句先走索引过滤掉不符合 where 条件的数据,再去统计,然后排序,最后返回客户端。流程如下:


  1. 创建内存临时表,表里面有两个字段:city 和 num;


  1. 根据索引 idx_order_num 找到大于 2 的数据的主键 ID;


  1. 通过主键 ID 取出 city = 某城市(比如广州、深圳、上海,囊括你表里涉及到的城市)的记录;


  • 临时表没有 city = 某城市的记录,直接插入,并记为 (某城市,1);
  • 临时表里有 city = 某城市的记录,直接更新,把 num 值 +1。


  1. 重复 2、3 步骤,直至找到所有吗,满足 order_num > 2 的记录。根据 city 字段做排序,然后把结果集返回客户端。


PS:回表的概念我就不说了哈,有兴趣的可以看我之前的《MySQL 索引详解》文章,强烈建议你去看,非常重要的是概念。


4.2 group by + having


现在产品又改需求统计每个城市的下单的人数,且总的下单人数需要在 100 以上。OS:mmp,又改


根据需求很快写出 sql 语句:


select city, count(*) as num from sale_order group by city having num > 100;


640.png


再用 explain 分析一下,得出如下结果:


640.png


哇草,咋回事?跟没加 having 的执行流程一样的?你没看错,其实 having 不直接参与到执行计划中去,它是对结果集操作的,所以这里的加的 having 跟没加是一样的执行计划。画个图,大概就是这样的:


640.png


4.3 group by + where + having


现在产品又改需求统计每个城市的下单超过两单的人数,且总的人数需要在 100 以上。OS:mmmp,又改


按照惯例,我们给 where 条件加上索引:


alter table sale_order add index idx_order_num (order_num);


根据需求很快写出 sql 语句:


select city, count(*) as num from sale_order where order_nunm > 2 group by city having num > 100;


640.png


explain 结果:


640.png


执行流程:


  1. 创建内存临时表,表里面有两个字段:city 和 num;


  1. 根据索引 idx_order_num 找到大于 2 的数据的主键 ID;


  1. 通过主键 ID 取出 city = 某城市(比如广州、深圳、上海,囊括你表里涉及到的城市)的记录;


  • 临时表没有 city = 某城市的记录,直接插入,并记为 (某城市,1);
  • 临时表里有 city = 某城市的记录,直接更新,把 num 值 +1。


  1. 重复 2、3 步骤,直至找到所有吗,满足 order_num > 2 的记录。根据 city 字段做排序。


  1. having 对结果集进行过滤,并返回客户端


不难看出这里的执行流程跟 4.1 一样就多了个 having 过滤


05 group by 优化


根据上面的分析,我们知道 group by 是需要创建临时表并且排序的。耗时也应该在这两个步骤,那我们应该从这两个步骤入手优化。


如果分组字段本身就是有序的,我们是不是就不用排序了?或者我们的需求并没有要求排序是不是就可以优化了?如果必须使用临时表,我们是不是可以只用内存临时表呢?如果数据量实在是太大,是不是可以直接用磁盘临时表,而不是发现内存临时表不够大才用它呢?


以上可以总结出四个优化方案:


  • 分组字段加索引
  • order by null 不排序
  • 尽量使用内存临时表
  • SQL_BIG_RESULT


5.1 分组字段加索引


select city, count(*) as num from sale_order group by city;


上面的 sql 中,city 没加索引,所以这时的 group by 还是要使用临时表的。那我们可不可以个组合索引 idx_city,结果如下所示:


640.png

加索引:


alter table sale_order add index idx_city (city);


结果:


640.png


Extra 是不是 Using temporary 和 Using filesort 都没了?所以不用排序也不用临时表啦。那有小伙伴又问了,那我有 where 条件怎么办?那就加组合索引呗:


alter table sale_order add index idx_order_num_city(order_num,city);


但是这种情况只适用于 where 条件是等值的,如果有大于、小于的情况还是避免不了排序和使用临时表。适用情况:


select city, count(*) as num from sale_order where order_num = 2 group by city;


不适用情况:


select city, count(*) as num from sale_order where order_num > 2 group by city;


5.2 order by null 避免排序


如果需求是不用排序,我们就可以这样做。在 sql 末尾加上 order by null


select city, count(*) as num from sale_order where order_num > 2 group by city order by null;


640.png


从分析结果看,还是需要使用临时表的。


5.3 尽量使用内存临时表


有些小伙伴可能很懵哈,内存临时表是啥?其实 mysql 临时表分内存临时表和磁盘临时表。但是这里就不展开了,有时间专门写一篇文章介绍。


group by 在执行过程中使用内存临时表还是不够用,那就会使用磁盘临时表。内存临时表的大小是有限制的,mysql 中 tmp_table_size 代表的就是内存临时表的大小,默认是 16M。当然你可以自定义社会中适当大一点,这就要根据实际情况来定了。


比如:可以设置成 32M,也就是 33554432 字节。


set tmp_table_size=33554432;


5.4 SQL_BIG_RESULT


如果数据量实在过大,大到内存临时表都不够用了,这时就转向使用磁盘临时表。而发现不够用再转向这个过程也是很耗时的,那我们有没有一种方法,可以告诉 mysql 从一开始就使用 磁盘临时表呢?


有的,在 group by 语句中加入 SQL_BIG_RESULT 提示 MySQL 优化器直接用磁盘临时表。优化器分析,磁盘临时表是 B+ 树存储,存储效率不如数组来得高。所以直接用数组存储。用法如下:


select SQL_BIG_RESULT city, count(*) as num from sale_order where group by city;


640.png


此时的执行过程就不需要创建临时表啦:


  1. 初始化 sort_buffer(排序缓冲区),放入 city 字段;
  2. 扫描 sale_order 表,取出 city 的值存入 sort_buffer 中;
  3. 扫描完成后,对 sort_buffer 的字段 city 做排序(如果 sort_buffer 内存不够用,就会利用磁盘临时文件辅助排序);
  4. 排序完成后,就得到了一个有序数组。
  5. 根据有序数组,得到数组里面的不同值,以及每个值的出现次数


06 group by 面试题


6.1 group by 一定要配合聚合函数使用吗?


不一定,以下 sql 语句,我用的 MySQL 5.7.13 运行是报错的;但是我司的 MySQL 8.0 版本是没有问题的。


select goods_name, city from sale_order group by city;


640.png


出现这个错误的原因是 mysql 的 sql_mode 开启了 ONLY_FULL_GROUP_BY 模式。查看 sql_mode:


select @@GLOBAL.sql_mode;


640.png


如果想要不做限制的话,直接重新设置 sql_mode 的值,把 ONLY_FULL_GROUP_BY 去掉即可。当然,开启这个要慎重,有可能会造成一些意想不到的错误,一般情况下还是加上这个设置比较稳妥。


6.2 group by 后面的一定要出现在 select 中吗?


不一定,我的就没报错。当然,这个还跟版本有关系。大家可以回去自己实践下。


select max(order_num) from sale_order group by city;


640.png


6.1 where & having 的区别?


  • where 用于条件筛选,having 用于分组后筛选


  • where 条件后面不能跟聚合函数,having 一般配合 group by 或者聚合函数(min、max、avg、count、sum)使用


  • where 用在 group by 之前,having 用在 group by 之后
相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
SQL 数据采集 NoSQL
One ID中的核心技术ID-Mapping究竟是怎么实现的?by彭文华
One ID中的核心技术ID-Mapping究竟是怎么实现的?by彭文华
|
7月前
|
存储 算法 前端开发
【算法训练营】队列 合集(1) 933. 最近的请求次数 || LCR 041. 数据流中的移动平均值 || 1700. 无法吃午餐的学生数量
【算法训练营】队列 合集(1) 933. 最近的请求次数 || LCR 041. 数据流中的移动平均值 || 1700. 无法吃午餐的学生数量
62 0
|
SQL 关系型数据库 MySQL
深聊MySQL,从入门到入坟之:如何让order by、group by查询速度飞起来
深聊MySQL,从入门到入坟之:如何让order by、group by查询速度飞起来
128 0
|
存储 分布式计算 流计算
离线数据Join我懂,但是实时数据怎么做Join的? by彭文华
离线数据Join我懂,但是实时数据怎么做Join的? by彭文华
|
数据建模
白话Elasticsearch55-数据建模之对每个用户发表的博客进行分组 (Top Hits Aggregation)
白话Elasticsearch55-数据建模之对每个用户发表的博客进行分组 (Top Hits Aggregation)
84 0
|
SQL 关系型数据库 MySQL
面试突击62:group by 有哪些注意事项?
面试突击62:group by 有哪些注意事项?
170 0
|
SQL 缓存 关系型数据库
Join原理(2)--连接原理(四十)
Join原理(2)--连接原理(四十)
|
SQL 架构师 关系型数据库
小胖问我:group by 怎么优化?(上)
哈喽,我是狗哥,好久不见呀!是的,我又又换了工作。最近一直在面试这几天刚好整理下在面试中被问到有意思的问题,也借此机会跟大家分享下。
小胖问我:group by 怎么优化?(上)
|
数据库
【硬着头皮】 你别查询了,不就id么?
【硬着头皮】 你别查询了,不就id么?
102 0
【硬着头皮】 你别查询了,不就id么?