日活3kw下,如何应对实际业务场景中SQL过慢的优化挑战?

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云原生数据库 PolarDB MySQL 版,Serverless 5000PCU 100GB
云数据库 Redis 版,社区版 2GB
推荐场景:
搭建游戏排行榜
简介: 在面试中,SQL调优是一个常见的问题,通过这个问题可以考察应聘者对于提升SQL性能的理解和掌握程度。通常来说,SQL调优需要按照以下步骤展开。

在面试中,SQL调优是一个常见的问题,通过这个问题可以考察应聘者对于提升SQL性能的理解和掌握程度。通常来说,SQL调优需要按照以下步骤展开。

首先,需要发现问题。最好结合具体业务情况,比如某次线下报警显示出现了慢SQL,或者接口响应时间较长,经过性能分析发现问题出现在SQL查询上。无论何种情况,都要有一个背景故事。

一旦问题被确定,就需要进行问题分析了。

接着首先要定位具体的SQL语句,这可以通过各种监控工具或平台来实现。一旦定位到SQL语句,就能知道是哪张表、哪个SQL语句在拖慢性能。

接下来就是进行分析了。一般来说,一个SQL查询变慢可能有以下几个原因:

  1. 索引失效
  2. 多表连接
  3. 查询字段过多
  4. 数据量过大
  5. 索引字段基数太小
  6. 数据库连接不足
  7. 数据库表结构不合理
  8. 数据库IO或CPU负载高
  9. 数据库参数设置不合理
  10. 长时间事务
  11. 锁竞争导致的等待

因此,进行完整的SQL调优通常需要考虑以上因素中的一个或多个。在优化过程中,会逐个解决这些问题。

情况一:索引失效

首先,当遇到索引失效的问题时,我们通常会通过执行计划来分析数据库查询是否有效地利用了索引。执行计划可以告诉我们查询是如何执行的,是否使用了索引以及索引的效率如何。如果发现查询没有使用索引或者索引效率低下,可能是因为索引设计不合理或者数据分布不均匀导致索引失效。在这种情况下,我们可以考虑优化索引设计,重新构建索引,或者调整SQL查询语句以更好地利用索引。有时候,我们也可以通过强制指定特定的索引来引导查询优化器选择正确的索引。除了修改索引和SQL语句,还可以考虑优化查询条件,避免使用通配符开头的LIKE语句,尽量避免在WHERE子句中对字段进行函数操作,以及尽量减少JOIN操作的复杂度。这些方法都可以帮助提高查询性能和优化索引使用。如果遇到索引失效问题,还可以考虑使用数据库提供的工具和分析功能来进一步诊断和解决问题。

特殊情况-Explain 执行计划中,key有值,还是很慢怎么办?

这是在实际中遇到的一种情况。我相信大家或多或少也是遇到过这种情况的。

在执行计划中,当看到key字段有值且type为index时,很多人错误地认为这表示查询已经利用了索引。
当我们查看一个SQL查询的执行计划时,经常会遇到类似以下的情况:

id select_type table type possible_keys key key_len ref rows Extra
1 SIMPLE users index NULL email_index 767 const 1 Using where; Using index

这个执行计划中,type=index,key=email_index很多人会认为这表示这条SQL走了索引,但是其实这么理解是不对的。

如果是走了索引Extra中的内容应该是Using index 而不是Using where; Using index

以上的这个执行计划表明,这个SQL确实用到了email_index的这个索引树,但是他并没有直接通过索引进行匹配或者范围查询,而是扫描了整颗索引树。

所以,type=index 意味着进行了全索引扫描, 会遍历索引树来查找匹配的行,这个效率比扫表扫描快一些,但是很有限,和我们通常意义上理解的走了索引 是两回事儿。

遇到这种情况,大概率是因为没有遵守最左前缀匹配导致的索引失效了。所以需要调整查询语句,或者修改索引来解决。

情况二:多表JOIN

在SQL查询中,多表连接是导致执行速度变慢的常见原因之一。当我们需要从多个表中检索数据并将它们组合在一起时,就会使用多表连接。然而,如果不加以优化,这种连接可能会导致查询性能下降。

多表连接的执行速度变慢主要是因为数据库系统需要同时处理多个表,进行数据匹配和组合。这可能涉及大量的数据扫描、比较和排序,导致查询变得缓慢。

为了解决多表连接导致的性能问题,我们可以采取一些优化措施:

  1. 优化查询条件:确保在连接表时使用有效的查询条件,限制返回的数据量。这可以减少不必要的数据匹配,提高查询效率。
  2. 合理使用索引:为连接字段创建索引,这样可以加快数据匹配的速度。索引可以帮助数据库系统快速定位需要匹配的数据。
  3. 限制返回字段:只选择需要的字段,避免返回过多的数据。减少返回字段的数量可以降低数据传输和处理的负担。
  4. 考虑表的大小和结构:在设计数据库表结构时,考虑到表的大小和关系,可以更好地优化多表连接的性能。
  5. 使用适当的连接类型:根据查询需求选择合适的连接类型,如INNER JOIN、LEFT JOIN、RIGHT JOIN等。不同的连接类型会影响查询的结果和性能。

举个例子,假设我们有两个表:usersorders,我们想要查询用户及其对应的订单信息。如果我们使用以下SQL查询:

SELECT users.name, orders.order_id
FROM users
JOIN orders ON users.user_id = orders.user_id;

在这个查询中,我们通过user_id字段将users表和orders表连接起来,但如果这两个表的数据量很大,且没有合适的索引,查询可能会变得很慢。通过优化查询条件、添加索引、限制返回字段等方式,可以改善这个查询的性能,使其执行更加高效。

为什么互联网公司都不建议使用多表join?

在SQL查询中,使用JOIN操作可能会导致效率较低的主要原因在于其实现方式

MySQL通常使用嵌套循环(Nested-Loop Join)来执行关联查询。简单来说,这意味着要通过两层循环来比较两个表的记录,外循环遍历第一个表,内循环遍历第二个表,然后逐条比较记录,符合条件的结果被输出。

具体到算法实现上,MySQL主要采用了三种方式:简单嵌套循环(Simple Nested Loop)、块嵌套循环(Block Nested Loop)和索引嵌套循环(Index Nested Loop)。然而,这三种方式的效率都不是特别高。

在实际应用中,如果有两个表进行JOIN操作,复杂度最高可以达到O(n^2),而对于三个表则是O(n^3),随着表的数量和数据量的增加,JOIN操作的效率会呈指数级下降。

值得一提的是,在MySQL 8.0中引入了哈希连接(Hash Join)算法,这种算法可以提高JOIN操作的效率。哈希连接通过构建哈希表来快速查找匹配的记录,相比于嵌套循环,可以更有效地处理JOIN操作,提升查询性能。

因此,尽管JOIN操作在处理多表关联查询时很常见,但需要注意其效率问题。为了优化查询性能,可以考虑使用适当的索引、优化查询条件、限制返回字段数量,以及利用新的算法如哈希连接来改善JOIN操作的效率。

关于什么是Hash Join ,感兴趣的话后期可以单独出一期文章单独说明一下。

情况三:索引基数太小不合理

  • 什么时字段基数?

举个例子,有一个字段它一共在10万行数据里有10万个值对吧?结果呢?这个10万值,要不然就是0,要不然就是1,那么他的基数就是2,为什么?因为这个字段的值就俩选择,0和1。假设你要是针对上面说的这种字段建立索引的话,那就还不如全表扫描了,因为你的索引树里就仅仅包含0和1两种值,根本没法进行快速的二分查找,也根本就没有太大的意义了,所以这种时候,选用这种基数很低的字段放索引里意义就不大了。

该描述在往期的MySQL索引设计原则有提到:

MySQL索引设计原则

情况四:查询字段太多

在数据库查询中,查询字段过多通常是因为我们错误地使用了SELECT *,导致返回了所有字段的数据。一般来说,如果查询字段少于100个,通常不会造成太大问题,除非字段数量非常庞大。在这种情况下,我们可以采取两种方法来解决。

首先,避免查询那些不必要的字段,只选择需要的少部分字段进行查询。这样可以减少数据传输和处理的负担,提高查询效率。

其次,可以考虑进行分表,即垂直分表,将数据拆分到多个表中。通过这种方式,可以将数据分散存储在不同的表中,降低单张表的数据量,提升查询性能。然而,需要注意的是,分表可能会引入多表JOIN的问题,因此在进行拆分时需要考虑数据冗余的情况。

所以,对于查询字段过多的情况,除了避免不必要字段的查询外,还可以考虑通过垂直分表的方式来优化数据存储和查询性能。在拆分表时,需谨慎考虑数据冗余和可能引发的多表JOIN问题,以达到更高效的数据查询和处理。

情况五:表中数据量太大

当单个表中的数据量超过1000万条时,通常会导致查询效率下降,即使使用了索引也可能变得比较缓慢。在这种情况下,单纯建立索引并不能完全解决问题。因此,针对大数据量表的情况,可以考虑以下几种解决方案:

  1. 数据归档:将历史数据移出主表,保留只保留最近半年的数据,而将半年前的数据进行归档。这样可以减少单表数据量,提升查询效率。
  2. 分库分表、分区:将数据拆分到多个库、多个表或者进行分区存储。通过分散数据存储的方式,可以有效降低单表数据量,提高查询性能。关于分库分表和分区的详细介绍可以在相关文档中查阅。
  3. 使用第三方数据库:将数据同步到支持大规模查询的分布式数据库中,例如OceanBase、TiDB,或者存储到搜索引擎中,如Elasticsearch等。这些数据库具有更好的扩展性和处理大数据量的能力,可以提升查询效率和系统性能。

所以,针对表中数据量过大的情况,除了建立索引外,还可以通过数据归档、分库分表、分区和使用第三方数据库等方式来优化数据存储和查询性能,以应对大数据量带来的查询效率问题。

情况六:数据库连接数不够

当数据库连接数不足时,需要具体分析造成这种情况的原因。可能的原因有几个:

  1. 业务量过大:如果业务量巨大,单个数据库无法承载,那么最好的解决方案是进行数据库分库操作,将数据分散存储在多个库中,以减轻单库压力。
  2. 慢SQL或长事务:存在一些慢SQL查询或长时间运行的事务,会占用数据库连接资源,导致数据库连接数不足。这种情况下,慢SQL会占用连接资源,导致其他查询被阻塞,进而影响整体查询效率。

其实这种情况如果系统的用户较多,其实很是较容易遇到的。比如:之前我就遇到过类似的问题,报错如下:

Caused by: ERR-CODE: [TDDL-4103][ERR_ATOM_CONNECTION_POOL_FULL] 
Pool of DB 'cn-zhxxx_i-xxx_fin_risk_xxx_30xx:33.10.xxx.xx:30xx' is full. 
Message from pool: wait millis 5000, active 10, maxActive 10. 
AppName:FIN_RISK_xxx_APP, Env:ONLINE, UnitName:null.

如果发现上述问题,则需要去监平台上看一下相关SQL的耗时情况

我们的问题其实就是简单的一个更新语句,其中使用了乐观锁进行并发控制。

为什么乐观锁还会导致大量的锁耗时呢?

虽然乐观锁是不需要加锁的,通过CAS的方式进行无锁并发控制进行更新的。但是InnoDB的update语句是要加锁的。当并发冲突比较大,发生热点更新的时候,多个update语句就会排队获取锁。

而这个排队的过程就会占用数据库链接,一旦排队的事务比较多的时候,就会导致数据库连接被耗尽。

当数据库连接被耗尽时,通常是因为排队的事务过多导致的。在高并发情况下,如果排队的事务数量很大,就会耗尽数据库连接资源。

这类问题的解决思路有以下几个:

  1. 使用缓存进行热点数据更新,如Redis,以减轻数据库压力。
  2. 采用异步更新的方式,平滑处理高并发更新请求,避免峰值冲击。
  3. 将热点数据拆分存储到不同的库或表中,减少并发冲突。
  4. 合并更新请求,通过批量执行的方式降低冲突。例如,将多个增加积分的操作合并为一次性批量执行,减少数据库负担。

需要注意的是,第2和第4种方案会引入一定的延迟,将实时更新变为异步更新,可能会影响数据的实时性。而第1和第3种方案在实施过程中成本较高,但相对更完整。

根据实际业务场景,选择合适的解决方案非常重要。在某些情况下,如我们的业务场景,选择第4种方案,即合并更新操作并批量执行,可以有效降低数据库连接压力。举例来说,如果需要给100个用户增加积分,可以将这些操作合并并在一定时间间隔内批量执行,以减少数据库负担。

情况七:数据库表结构不合理

当数据库表结构不合理时,这也是造成性能问题的关键原因之一。例如,某些字段存储了过长的内容,或者缺乏合理的冗余导致需要频繁进行多表关联查询。解决这类问题的思路通常是进行数据库重构或者考虑分表操作。

情况八:数据库IO或者CPU比较高

另外,数据库高IO或CPU占用率也是常见的问题。当数据库整体IO或CPU负载过高时,查询速度可能会下降,因此需要分析背后的原因并采取相应的解决方案。

情况九:存在长事务

长事务和慢SQL问题类似,都会占用数据库连接,导致其他请求需要等待。

情况十:锁竞争导致的等待

在数据库中,锁竞争也会导致等待。当多个并发请求争夺共享资源时,会导致锁等待,进而增加执行时间,使SQL变慢。这种情况也会类似于CPU被打满的问题。

情况十一:数据库参数不合理

针对具体业务场景,适当调整数据库参数可以显著提升SQL效率。例如,调整内存大小、缓存大小、线程池大小等参数都可能对数据库性能产生影响。

如有问题,微信搜索【码上遇见你】。

好了,本章节到此告一段落。希望对你有所帮助,祝学习顺利。

相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
12天前
|
SQL 存储 关系型数据库
【MySQL】SQL 优化
【MySQL】SQL 优化
35 0
|
3天前
|
SQL 监控 关系型数据库
【PolarDB开源】PolarDB SQL优化实践:提升查询效率与资源利用
【5月更文挑战第24天】PolarDB是高性能的云原生数据库,强调SQL查询优化以提升性能。本文分享了其SQL优化策略,包括查询分析、索引优化、查询重写、批量操作和并行查询,以及性能监控与调优方法。通过这些措施,可以减少响应时间、提高并发处理能力和降低成本。文中还提供了相关示例代码,展示如何分析查询和创建索引,帮助用户实现更高效的数据库管理。
21 1
|
12天前
|
SQL 缓存 关系型数据库
一次sql改写优化子查询的案例
在生产环境中,一个MySQL RDS实例遭遇了高CPU使用率问题,原因是执行了一条复杂的UPDATE SQL语句,该语句涉及一个无法缓存的子查询(UNCACHEABLE SUBQUERY),导致子查询需要针对每一行数据重复执行,极大地影响了性能。SQL语句的目标是更新一行数据,但执行时间长达30秒。优化方法是将子查询转换为内连接形式,优化后的语句执行时间降低到毫秒级别,显著减少了CPU消耗。通过示例数据和执行计划对比,展示了优化前后的时间差异和执行效率的提升。
|
12天前
|
存储 SQL 关系型数据库
掌握高性能SQL的34个秘诀🚀多维度优化与全方位指南
掌握高性能SQL的34个秘诀🚀多维度优化与全方位指南
|
12天前
|
SQL 存储 关系型数据库
【MySQL系列笔记】SQL优化
SQL优化是通过调整数据库查询、索引、表结构和配置参数等方式,提高SQL查询性能和效率的过程。它旨在减少查询执行时间、减少系统资源消耗,从而提升数据库系统整体性能。优化方法包括索引优化、查询重写、表分区、适当选择和调整数据库引擎等。
240 3
|
12天前
|
存储 SQL 缓存
30个业务场景的SQL优化
这些优化策略和示例可以帮助改善 `SQL` 查询的性能和效率。在实践中,需要综合考虑数据库设计、`SQL` 编写、服务器配置等多方面因素,选择合适的优化方法,并进行充分的测试和验证。以上 30 个经验是 V 哥在实际经验中总结的内容,当然,业务场景不同,具体的优化策略也会不同,按实际情况处理,这不就是程序员要做的事情么。
|
12天前
|
SQL 存储 算法
clickhouse SQL优化
clickhouse 是 OLAP 数据库,但其具有独特的索引设计,所以如果拿 MySQL 或者其他 RDB 的优化经验来优化 clickhouse 可能得不到很好的效果,所以特此单独整理一篇文档,用于有 SQL 优化需求的同学,本人接触 clickhouse 时间也不长,难免有不足的地方,如果大家发现错误,还请不吝指正。
|
12天前
|
SQL 关系型数据库 MySQL
【MySQL】SQL优化
【MySQL】SQL优化
|
12天前
|
SQL 存储 关系型数据库
MySQL SQL优化
MySQL SQL优化
18 0
|
10天前
|
SQL API 流计算
实时计算 Flink版产品使用合集之在Mac M1下的Docker环境中开启SQL Server代理的操作步骤是什么
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。