【MySQL数据库笔记 - 进阶篇】(三)SQL优化

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS PostgreSQL,集群系列 2核4GB
简介: 【MySQL数据库笔记 - 进阶篇】(三)SQL优化

三、SQL优化

1. 插入数据

insert优化

批量插入

insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry');

手动提交事务

start transaction;
insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry');
insert into tb_test values(4,'Tom'),(5,'Cat'),(6,'Jerry');
insert into tb_test values(7,'Tom'),(8,'Cat'),(9,'Jerry');
commit;


主键顺序插入

主键顺序插入性能高于乱序插入。

主键乱序插入:8  1  9  21  88  2  4  15  89  5  7  3
主键顺序插入:1  2  3  4  5  7  8  9  15  21  88  89


批量插入数据

如果一次性需要插入大批量数据,使用 insert 语句插入性能较低,此时可以使用 MySQL 数据库提供的 load 指令进行插入。操作如下:

# 客户端连接服务端时,加上参数 --local-infile
mysql --local-infile -u root -p;
# 设置全局参数local_infile为1,开启从本地加载文件导入数据的开关
set global local_infile = 1;
# 执行load指令将准备好的数据,加载到表结构中
load data local infile '/root/sql1.log' into table 'tb_user' fields terminated by ',' lines terminated by '\n';


2. 主键优化

数据组织方式

InnoDB存储引擎中,表数据都是根据主键顺序组织存放的,这种存储方式的表称为索引组织表


页分裂

页可以为空,也可以填充一半,也可以填充 100% 。每个页包含了 2-N 行数据(如果一行数据过大,会行溢出),根据主键排列。

主键顺序插入

每次页满了就会去开辟新的页,以此类推。



主键乱序插入

看下面这个例子,如果插入 50 就发现不能直接开辟新的页插入到后面,因为其索引值在第一页和第二页之间。

这就需要将要插入地方的那个页进行分裂,将一部分放到新开辟的那个页当中。

这样就有地方可以插入 50 了,即直接插入到第三页的后面。

最后还需要调整一下顺序,现在第三页需要接到第一页的后面去。


页合并

当删除一行记录时,实际上记录并没有被物理删除,只是记录被标记(flaged)为删除并且它的空间变得允许被其他记录声明使用。

当页中删除的记录达到 MERGE_THRESHOLD(默认为页的 50%),InnoDB 会开始寻找最靠近的页(前或后)看看是否可以将两个页合并以优化空间使用。

注意: MERGE_THRESHOLD :合并页的阈值,可以自己设置,在创建表或者创建索引时指定。


主键的设计原则

1.满足业务需求的情况下,尽量降低主键的长度。

2.插入数据时,尽量选择顺序插入,选择使用 AUTO_INCREMENT 自增主键。

3.尽量不要使用使用 UUID 做主键或者是其它自然主键,如身份证号。

4.业务操作,避免对主键的修改。

3. order by优化

情况

(1)Using filesort :通过表的索引或全表扫描,读取满足条件的数据行,然后再排序缓冲区 sort buffer 中完成排序操作,所有不是通过索引直接返回排序结果的都叫 FileSort 排序。


(2)Using index :通过有序索引顺序扫描直接返回有序数据,这种情况即为 using index ,不需要额外排序,操作效率高。


# 没有创建索引时,根据age,phone进行排序会显示Using filesort
explain select id,age,phone from tb_user order by age,phone;
# 创建索引
create index idx_user_age_phone_aa on tb_user(age,phone);
# 创建索引后,根据age,phone进行升序排序会显示Using index
explain select id,age,phone from tb_user order by age,phone;
# 创建索引后,根据age,phone进行降序排序会显示Using index
explain select id,age,phone from tb_user order by age desc,phone desc;
# 根据age,phone进行排序一个升序,一个降序会显示Using filesort
explain select id,age,phone from tb_user order by age asc,phone desc;
# 创建索引
create index idx_user_age_phone_ad on tb_user(age,asc,phone desc);
# 根据age,phone进行排序一个升序,一个降序会显示Using index
explain select id,age,phone from tb_user order by age asc,phone desc;

总结

1.根据排序字段建立合适的索引,多字段排序时,也遵循最左前缀法则。

2.尽量使用覆盖索引。

3.多字段排序,一个升序一个降序,此时需要注意联合索引在创建时的规则(ASC/DESC)

4.如果不可避免的出现 filesort ,大数据量排序时,可以适当增大排序缓冲区大小 sort_buffer_size(默认 256k)。


4. group by优化

在分组操作时,可以通过索引来提高效率。

分组操作时,索引的使用也是满足最左前缀法则的。

# 删除掉目前的联合索引idx_user_pro_age_sta
drop index idx_user_pro_age_sta on tb_user;
# 执行分组操作,根据profession字段分组
explain select profession,count(*) from tb_user group by profession;
# 创建索引
create index idx_user_pro_age_sta on tb_user(profession,age,status);
# 执行分组操作,根据profession字段分组
explain select profession,count(*) from tb_user group by profession;
# 执行分组操作,根据profession字段分组
explain select profession,count(*) from tb_user group by profession,age;


5. limit优化

一个常见又非常头疼的问题是 limit 2000000,10 ,此时需要 MySQL 排序前 2000010 的记录,仅仅返回 2000000 - 2000010 的记录,其他记录丢弃,查询排序的代价非常大。


优化思路: 一般分页查询时,通过创建覆盖索引能够比较好地提高性能,可以通过覆盖索引加子查询形式进行优化。

explain select * from tb_sku t,(select id from tb_sku order by id limit 2000000,10) a where t.id=a.id;


6. count优化

操作

explain select count(*) from tb_user;


MuISAM 引擎把一个表的总行数存放在了磁盘上,因此执行 count(*) 的时候会直接返回这个数,效率很高。


InnoDB 引擎就麻烦了,它执行 count(*) 的时候,需要把数据一行一行地从引擎里面读出来,然后累计计数。


优化思路: 自己计数。


count的几种用法

count() 是一个聚合函数,对于返回的结果集,一行行地判断,如果 count 函数的参数不是 NULL ,累计值就加 1 ,否则不加,最后返回累计值。


用法: count(*)、count(主键)、count(字段)、count(1)


按照效率排序的话,count(字段) < count(主键id) < count(1) ≈ count(*) ,所以尽量使用 count(*)


7. update优化

尽量根据主键/索引字段进行数据更新。

update student set no='2000100100' where id=1;
update student set no='2000100105' where name='韦一笑';

InnoDB 的行锁是针对索引加的锁,不是针对记录加的锁,并且该索引不能失效,否则会从行锁升级为表锁。

相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
18天前
|
SQL 关系型数据库 MySQL
深入解析MySQL的EXPLAIN:指标详解与索引优化
MySQL 中的 `EXPLAIN` 语句用于分析和优化 SQL 查询,帮助你了解查询优化器的执行计划。本文详细介绍了 `EXPLAIN` 输出的各项指标,如 `id`、`select_type`、`table`、`type`、`key` 等,并提供了如何利用这些指标优化索引结构和 SQL 语句的具体方法。通过实战案例,展示了如何通过创建合适索引和调整查询语句来提升查询性能。
118 9
|
11天前
|
SQL 存储 关系型数据库
【MySQL基础篇】全面学习总结SQL语法、DataGrip安装教程
本文详细介绍了MySQL中的SQL语法,包括数据定义(DDL)、数据操作(DML)、数据查询(DQL)和数据控制(DCL)四个主要部分。内容涵盖了创建、修改和删除数据库、表以及表字段的操作,以及通过图形化工具DataGrip进行数据库管理和查询。此外,还讲解了数据的增、删、改、查操作,以及查询语句的条件、聚合函数、分组、排序和分页等知识点。
【MySQL基础篇】全面学习总结SQL语法、DataGrip安装教程
|
30天前
|
SQL 存储 关系型数据库
SQL自学笔记(3):SQL里的DCL,DQL都代表什么?
本文介绍了SQL的基础语言类型(DDL、DML、DCL、DQL),并详细说明了如何创建用户和表格,最后推荐了几款适合初学者的免费SQL实践平台。
140 3
SQL自学笔记(3):SQL里的DCL,DQL都代表什么?
|
17天前
|
SQL Oracle 数据库
使用访问指导(SQL Access Advisor)优化数据库业务负载
本文介绍了Oracle的SQL访问指导(SQL Access Advisor)的应用场景及其使用方法。访问指导通过分析给定的工作负载,提供索引、物化视图和分区等方面的优化建议,帮助DBA提升数据库性能。具体步骤包括创建访问指导任务、创建工作负载、连接工作负载至访问指导、设置任务参数、运行访问指导、查看和应用优化建议。访问指导不仅针对单条SQL语句,还能综合考虑多条SQL语句的优化效果,为DBA提供全面的决策支持。
44 11
|
23天前
|
缓存 关系型数据库 MySQL
MySQL 索引优化以及慢查询优化
通过本文的介绍,希望您能够深入理解MySQL索引优化和慢查询优化的方法,并在实际应用中灵活运用这些技术,提升数据库的整体性能。
61 18
|
22天前
|
缓存 关系型数据库 MySQL
MySQL 索引优化以及慢查询优化
通过本文的介绍,希望您能够深入理解MySQL索引优化和慢查询优化的方法,并在实际应用中灵活运用这些技术,提升数据库的整体性能。
22 7
|
21天前
|
缓存 关系型数据库 MySQL
MySQL 索引优化与慢查询优化:原理与实践
通过本文的介绍,希望您能够深入理解MySQL索引优化与慢查询优化的原理和实践方法,并在实际项目中灵活运用这些技术,提升数据库的整体性能。
54 5
|
29天前
|
SQL 存储 缓存
MySQL进阶突击系列(02)一条更新SQL执行过程 | 讲透undoLog、redoLog、binLog日志三宝
本文详细介绍了MySQL中update SQL执行过程涉及的undoLog、redoLog和binLog三种日志的作用及其工作原理,包括它们如何确保数据的一致性和完整性,以及在事务提交过程中各自的角色。同时,文章还探讨了这些日志在故障恢复中的重要性,强调了合理配置相关参数对于提高系统稳定性的必要性。
|
28天前
|
SQL 关系型数据库 MySQL
MySQL 高级(进阶) SQL 语句
MySQL 提供了丰富的高级 SQL 语句功能,能够处理复杂的数据查询和管理需求。通过掌握窗口函数、子查询、联合查询、复杂连接操作和事务处理等高级技术,能够大幅提升数据库操作的效率和灵活性。在实际应用中,合理使用这些高级功能,可以更高效地管理和查询数据,满足多样化的业务需求。
110 3
|
30天前
|
SQL 监控 安全
SQL Servers审核提高数据库安全性
SQL Server审核是一种追踪和审查SQL Server上所有活动的机制,旨在检测潜在威胁和漏洞,监控服务器设置的更改。审核日志记录安全问题和数据泄露的详细信息,帮助管理员追踪数据库中的特定活动,确保数据安全和合规性。SQL Server审核分为服务器级和数据库级,涵盖登录、配置变更和数据操作等事件。审核工具如EventLog Analyzer提供实时监控和即时告警,帮助快速响应安全事件。