索引的威力--记一次MySQL存储过程优化

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云原生数据库 PolarDB MySQL 版,通用型 2核8GB 50GB
简介: 在MySQL存储过程中,一个`INSERT INTO SELECT`语句起初执行超过130秒,优化后,执行时间降低到1秒内,实现了100倍的性能提升。问题在于`NOT IN`子查询导致的慢查询,最终通过创建单列索引获得了最佳效果。文章还介绍了索引创建的基本语法,并讨论了单列索引与组合索引的优缺点。作者强调,随着数据量增加,索引对于查询性能的重要性,计划未来采用读写分离来进一步优化处理大量插入和查询的场景。

一、背景:

最近接手一个老项目,在MySQL存储过程中采用【insert.... select ....】的语句,执行时发现超过130s(之后停止存储过程,没有继续执行),实际是从30多万条数据中查询后,真正要插入数据只有1800多条。我在创建了多个单列索引后,同样的语句在1s内(<0.5s)就执行完成了,速度提升了100倍,体会到了数据库索引带来的巨大威力。


这个存储过程去掉具体的业务后,出现问题的语句是这么写的:

INSERT INTO da_tb_market_index_commodity_detail(
`third_level_code`, `data_type`,
`data_date`, 
`commodity_images`,
`commodity_name`
)SELECT 
`third_level_code`, 
`data_type`,
`data_date`, 
`commodity_images`,
`commodity_name`
from da_tb_market_index_commodity_detail_temp 
where third_level_code=category_code and data_date=data_time and data_type=type_str and price_section=section
AND (commodity_ID, data_date,data_type,third_level_code,price_section) NOT IN 
(SELECT commodity_ID, data_date,data_type,third_level_code,price_section FROM da_tb_market_index_commodity_detail);

二、解决问题过程:

因为这个存储过程执行时间超过30s,不太正常,于是我在navicat中,输入 show processlist; 命令查看正在执行的任务,发现这个存储过程还在执行insert语句。因为时间太长,担心表锁死,所以我通过查看Info列中找到任务对应的Id,执行kill命令 ,停止正在执行的存储过程。

分析这段代码,首先是not in的查询条件执行会比较慢,可以使用left join来优化,这会提供一些性能,当时因为有时间要求,没有采取这个优化策略。另一个是在数据库表da_tb_market_index_commodity_detail中增加索引,来提高查询的性能,我首先建了组合索引 (commodity_ID, data_date,data_type,third_level_code,price_section)Index,效果有比较大的提升,之后我创建了多个单列索引,发现速度更快,在1s内完成了存储过程,大大超出我的想象。索引创建如下图:

image.png



三、涉及知识点:

1、索引的创建:建表时和建表后都可以创建索引, 注:索引方法默认使用B+TREE。以下是创建表时的存储过程:

CREATE TABLE 表名(
字段名 数据类型 [完整性约束条件], ……,
[UNIQUE | FULLTEXT | SPATIAL] INDEX | KEY
[索引名](字段名1 [(长度)] [ASC | DESC]) [USING 索引方法]);

说明:
UNIQUE:可选。表示索引为唯一性索引。
FULLTEXT:可选。表示索引为全文索引。
SPATIAL:可选。表示索引为空间索引。
INDEX和KEY:用于指定字段为索引,两者选择其中之一就可以了,作用是    一样的。
索引名:可选。给创建的索引取一个新名称。
字段名1:指定索引对应的字段的名称,该字段必须是前面定义好的字段。
长度:可选。指索引的长度,必须是字符串类型才可以使用。
ASC:可选。表示升序排列。
DESC:可选。表示降序排列。

2、单列索引和组合索引的区别联系

对于只涉及单列的查询,单列索引可以快速定位到符合条件的记录,提高查询效率。相对于组合索引,单列索引的维护成本较低,因为每次数据更新时只需要更新一个索引。

组合索引可以同时考虑多个列的组合,对于涉及这些列的查询,可以更有效地定位到符合条件的记录,提高查询效率。组合索引的大小会随着索引列的增加而增加,占用更多的存储空间,特别是当索引包含大量的列时,可能会导致索引过大,影响性能。更新组合索引列的值时,需要同时更新索引的多个列,可能会增加更新的代价和时间。

本次性能优化,既有单列查询,也有组合列查询,综合比较后,采用多个单列索引性能更好。


四、总结

索引是一个排序的列表,在这个列表中存储着索引的值和包含这个值的数据所在行的物理地址,可以大大加快查询的速度,使用索引后可以不用扫描全表来定位某行的数据,而是先通过索引表找到该行数据对应的物理地址然后访问相应的数据。

数据库表中数据少的时候,加不加索引,对于查询性能没有影响。一旦数据库数据较大,比如本例中表的数据超过30多万,对于比较复杂的一些查询性能是有明显的优势的。

我现在做的电商系统,每天数据增长很快,后续如果插入数据影响性能(比如插入数据时,用户在界面上查询数据响应比较慢),我规划把目前的单库改成读写分离模式,把插入数据和查询数据分开,增加更好的用户体验。

技术不断发展,希望和大家一起进步,加油!




相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。 &nbsp; 相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情:&nbsp;https://www.aliyun.com/product/rds/mysql&nbsp;
相关文章
|
4月前
|
存储 SQL 关系型数据库
mysql底层原理:索引、慢查询、 sql优化、事务、隔离级别、MVCC、redolog、undolog(图解+秒懂+史上最全)
mysql底层原理:索引、慢查询、 sql优化、事务、隔离级别、MVCC、redolog、undolog(图解+秒懂+史上最全)
mysql底层原理:索引、慢查询、 sql优化、事务、隔离级别、MVCC、redolog、undolog(图解+秒懂+史上最全)
|
4月前
|
存储 关系型数据库 MySQL
MySQL数据库索引的数据结构?
MySQL中默认使用B+tree索引,它是一种多路平衡搜索树,具有树高较低、检索速度快的特点。所有数据存储在叶子节点,非叶子节点仅作索引,且叶子节点形成双向链表,便于区间查询。
156 4
|
6月前
|
存储 关系型数据库 MySQL
阿里面试:MySQL 一个表最多 加几个索引? 6个?64个?还是多少?
阿里面试:MySQL 一个表最多 加几个索引? 6个?64个?还是多少?
阿里面试:MySQL 一个表最多 加几个索引? 6个?64个?还是多少?
|
5月前
|
SQL 缓存 关系型数据库
MySQL 慢查询是怎样优化的
本文深入解析了MySQL查询速度变慢的原因及优化策略,涵盖查询缓存、执行流程、SQL优化、执行计划分析(如EXPLAIN)、查询状态查看等内容,帮助开发者快速定位并解决慢查询问题。
214 0
|
3月前
|
缓存 关系型数据库 MySQL
降低MySQL高CPU使用率的优化策略。
通过上述方法不断地迭代改进,在实际操作中需要根据具体场景做出相对合理判断。每一步改进都需谨慎评估其变动可能导致其他方面问题,在做任何变动前建议先在测试环境验证其效果后再部署到生产环境中去。
168 6
|
4月前
|
存储 SQL 关系型数据库
MySQL 核心知识与索引优化全解析
本文系统梳理了 MySQL 的核心知识与索引优化策略。在基础概念部分,阐述了 char 与 varchar 在存储方式和性能上的差异,以及事务的 ACID 特性、并发事务问题及对应的隔离级别(MySQL 默认 REPEATABLE READ)。 索引基础部分,详解了 InnoDB 默认的 B+tree 索引结构(多路平衡树、叶子节点存数据、双向链表支持区间查询),区分了聚簇索引(数据与索引共存,唯一)和二级索引(数据与索引分离,多个),解释了回表查询的概念及优化方法,并分析了 B+tree 作为索引结构的优势(树高低、效率稳、支持区间查询)。 索引优化部分,列出了索引创建的六大原则
122 2
|
5月前
|
存储 Oracle 关系型数据库
Oracle存储过程插入临时表优化与慢查询解决方法
优化是一个循序渐进的过程,就像雕刻一座雕像,需要不断地打磨和细化。所以,耐心一点,一步步试验这些方法,最终你将看到那个让你的临时表插入操作如同行云流水、快如闪电的美丽时刻。
250 14
|
5月前
|
存储 关系型数据库 MySQL
MySQL覆盖索引解释
总之,覆盖索引就像是图书馆中那些使得搜索变得极为迅速和简单的工具,一旦正确使用,就会让你的数据库查询飞快而轻便。让数据检索就像是读者在图书目录中以最快速度找到所需信息一样简便。这样的效率和速度,让覆盖索引成为数据库优化师傅们手中的尚方宝剑,既能够提升性能,又能够保持系统的整洁高效。
153 9
|
4月前
|
存储 SQL 关系型数据库
MySQL 动态分区管理:自动化与优化实践
本文介绍了如何利用 MySQL 的存储过程与事件调度器实现动态分区管理,自动化应对数据增长,提升查询性能与数据管理效率,并详细解析了分区创建、冲突避免及实际应用中的关键注意事项。
173 0
|
6月前
|
存储 SQL 关系型数据库
京东面试:mysql深度分页 严重影响性能?根本原因是什么?如何优化?
京东面试:mysql深度分页 严重影响性能?根本原因是什么?如何优化?
京东面试:mysql深度分页 严重影响性能?根本原因是什么?如何优化?

相关产品

  • 云数据库 RDS MySQL 版
  • 推荐镜像

    更多