自学Mysql调优笔记

本文涉及的产品
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
云数据库 RDS MySQL Serverless,价值2615元额度,1个月
简介: mysql调优

Mysql性能调优学习

预计十天完成14/day

1. 存储引擎

存储引擎是基于表的,而不是基于库的

SHOW ENGINES --展示所有存储引擎

1.1 InnoDB

DML操作遵循ACID模型,支持事务

行鸡锁,提供并发访问性能。

支持外键约束,保证数据完整性

逻辑存储结构

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

一个区64个页,一个page是16k,一个区是1k

1.2MyISAM

MyISAM是MySQL早期的默认存储引擎。

  • 不支持事务,不支持外键
  • 支持表锁,不支持行锁
  • 访问速度快

1.3Memory

Memory引擎的表数据时存储在内存中的,由于受到硬件问题、或断电问题的影响,只能将这些表作为临时表或缓存使用。

2). 特点

  • 内存存放
  • hash索引(默认)

1.4怎么选择

在选择存储引擎时,应该根据应用系统的特点选择合适的存储引擎。对于复杂的应用系统,还可以根据

实际情况选择多种存储引擎进行组合。

  • InnoDB: 是Mysql的默认存储引擎,支持事务、外键。如果应用对事务的完整性有比较高的要求,在并发条件下要求数据的一致性,数据操作除了插入和查询之外,还包含很多的更新、删除操 作,那么InnoDB存储引擎是比较合适的选择。

  • MyISAM : 如果应用是以读操作和插入操作为主,只有很少的更新和删除操作,并且对事务的完整性、并发性要求不是很高,那么选择这个存储引擎是非常合适的。

    被mongdb取代

  • MEMORY:将所有数据保存在内存中,访问速度快,通常用于临时表及缓存。MEMORY的缺陷就是对表的大小有限制,太大的表无法缓存在内存中,而且无法保障数据的安全性。

    被redis取代

2.索引

索引(index)是帮助MySQL高效获取数据的数据结构(有序)。在数据之外,数据库系统还维护着满足 特定查找算法的数据结构,这些数据结构以某种方式引用(指向)数据, 这样就可以在这些数据结构 上实现高级查找算法,这种数据结构就是索引。

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

假如说MySQL的索引结构采用二叉树的数据结构。

如果主键是顺序插入的,则会形成一个单向链表,结构如下:

所以,如果选择二叉树作为索引结构,会存在以下缺点:

  • 顺序插入时,会形成一个链表,查询性能大大降低。
  • 大数据量情况下,层级较深,检索速度慢。

2.1b+树索引结构

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

B+树只有i叶子节点存储数据,上层只做索引。

2.2Hash索引

  1. hash索引只能用于对等比较,不支持范围查询(登录的时候)
  2. 无法利用索引完成排序操作
  3. 查询效率高,通常只需要一次检索,效率通常高于B+tree(不发生hash碰撞)

在MySQL中,支持hash索引的是Memory存储引擎。 而InnoDB中具有自适应hash功能,hash索引是InnoDB存储引擎根据B+Tree索引在指定条件下自动构建的。

思考题: 为什么InnoDB存储引擎选择使用B+tree索引结构?

A. 相对于二叉树,层级更少,搜索效率高;
B. 对于B-tree,无论是叶子节点还是非叶子节点,都会保存数据,这样导致一页中存储
的键值减少,指针跟着减少,要同样保存大量数据,只能增加树的高度,导致性能降低;
C. 相对Hash索引,B+tree支持范围匹配及排序操作;
D. 双向链表,查询快。

2.3索引的分类

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

2.3.1InnoDB的索引

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

where by 。。。 就是根据。。。建立索引

先查询二级索引在查询聚集索引->回表查询

思考题:
以下两条SQL语句,那个执行效率高? 为什么?
A. select * from user where id = 10 ;
B. select * from user where name = 'Arm' ;
备注: id为主键,name字段创建的有索引;
解答:
A 语句的执行性能要高于B 语句。
因为A语句直接走聚集索引,直接返回数据。 而B语句需要先查询name字段的二级索引,然
后再查询聚集索引,也就是需要进行回表查询。

3.SQL优化

主要优化的是select,其实就是索引

展示当前数据库是插入为主还是查询为主

SHOW GLOBAL STATUS LIKE "Com_______"

3.1慢查询日志

  • 慢查询日志记录了所有执行时间超过指定参数(long_query_time,单位:秒,默认10秒)的所有 SQL语句的日志。

MySQL的慢查询日志默认没有开启,我们可以查看一下系统变量 slow_query_log。

修改etc/my.cnf配置信息

# 开启MySQL慢日志查询开关
slow_query_log=1
# 设置慢日志的时间为2秒,SQL语句执行时间超过2秒,就会视为慢查询,记录慢查询日志
long_query_time=2

设置完之后重启mysql

3.2profile详情

SELECT @@have_profiling ; # 查看是否开启
SET profiling = 1 # 设置开启
show profiles # 查看执行情况
show profile for query query_id # 查询该sql的耗时情况
show profile cpu for query query_id # 查看该sql的cpu情况

3.3explain执行计划

只需要将查询的语句前执行explain关键字

id select查询的序列号,表示查询中执行select子句或者是操作表的顺序(id相同,执行顺序从上到下;id不同,值越大,越先执行)。
select_type 表示 SELECT 的类型,常见的取值有 SIMPLE
type 表示连接类型,性能由好到差的连接类型为NULL、system、const、 eq_ref、ref、range、 index、all 。、
possible_key 显示可能应用在这张表上的索引,一个或多个。
key 实际使用的索引,如果为NULL,则没有使用索引。
key_len 表示索引中使用的字节数, 该值为索引字段最大可能长度,并非实际使用长 度,在不损失精确性的前提下, 长度越短越好
rows MySQL认为必须要执行查询的行数
filtered 表示返回结果的行数占需读取行数的百分比, filtered 的值越大越好。

3.4索引使用原则

  • 联合索引失效
  • 最左前缀法则

如果索引了多列(联合索引),要遵守最左前缀法则。最左前缀法则指的是查询从索引的最左列开始,

并且不跳过索引中的列。如果跳跃某一列,索引将会部分失效(后面的字段索引失效)。

  • 范围查询

范围查询右边的列索引会失效 例如:>/<

规避:在业务允许的情况下,使用大于等于或者小于等于查询

  • 索引运算

不能在索引上进行运算操作

  • 字符串不加单引号

索引会失效

  • 模糊查询

尾部模糊匹配索引不会失效,头部模糊匹配索引会失效。

  • or

一旦用了or,只有or的两侧都有索引的时候索引才会生效

  • 当全表扫描速度大于索引的时候

3.5覆盖索引

尽量使用覆盖索引,减少select *。 那么什么是覆盖索引呢? 覆盖索引是指 查询使用了索引,并 且需要返回的列,在该索引中已经全部能够找到 。

意思就是返回的列都有索引。

多用联合索引,联合索引是二级索引,叶子节点下面挂的是id

3.5sql提示

explain select * from tb_user use index(idx_user_pro) where profession = '软件工程'; #建议mysql使用哪个索引,mysql内部还是会评估
explain select * from tb_user ignore index(idx_user_pro) where profession = '软件工程'; #忽略指定的索引
explain select * from tb_user force index(idx_user_pro) where profession = '软件工程'; # 强制使用索引

3.6前缀索引

create index idx_xxxx on table_name(column(n)) ; # 我要提取字符串的多少位

3.7索引的使用

多使用联合索引。

避免回表查询,回一次表,查询的效率要慢10倍

3.8索引设计原则

100w数据以上

  1. 针对于数据量较大,且查询比较频繁的表建立索引。
  2. 针对于常作为查询条件(where)、排序(order by)、分组(group by)操作的字段建立索 引。
  3. 尽量选择区分度高的列作为索引,尽量建立唯一索引,区分度越高,使用索引的效率越高。 (性别,逻辑删除字段,区分度低)
  4. 如果是字符串类型的字段,字段的长度较长,可以针对于字段的特点,建立前缀索引。 遵循最左前缀法则
  5. 尽量使用联合索引,减少单列索引,查询时,联合索引很多时候可以覆盖索引,节省存储空间,

避免回表,提高查询效率。

  1. 要控制索引的数量,索引并不是多多益善,索引越多,维护索引结构的代价也就越大,会影响增 删改的效率。

create unique index idx_user_phone_name on tb_user(phone,name);

  1. 如果索引列不能存储NULL值,请在创建表时使用NOT NULL约束它。当优化器知道每列是否包含

NULL值时,它可以更好地确定哪个索引最有效地用于查询。

4.sql优化

4.1插入数据

  • 数据批量插入
  • 数据手动提交

    大批量数据插入 load指定

4.2主键优化

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

第二页数据被删除一半以上,就会查询其他页然后请求合并。

主键设计原则

  • 尽量降低主键的长度
  • 因为二级索引下挂载的是用户的主键
  • 尽量使用id自增作为主键
  • 尽量不要使用uuid和身份证号作为主键
  • 主键乱序查询造成页分裂

4.3order by 优化

  1. Using filesort :通过表的索引或者全表的扫描,读取满足条件的数据行,然后在排序缓冲区sort buffer中完成排序操作,
  2. Using index:通过有序索引顺序扫描直接返回有序数据,为using index,不需要额外排序,操作效率高

在创建索引的时候默认是asc的,但是可以指认排序索引的规则

4.4limit优化

select * from tb_sku order by id limit 9000000,10

通过覆盖索引,加子查询

select *id from tb_sku order by id limit 9000000,10 #先获取id,再通过id来获取数据

select s.* from tb_sku s, (select id from tb_sku order by id limit 90000000,10) a where s.id = a.id

4.5count优化

  • MyISAM 中把表的总行数放在磁盘上,因为执行count(*)的时候会直接返回这个数,效率高
  • InnoDB,执行count(*)的时候,需要把数据一行一行的遍历出来,然后计算行数(Redis)

count并不是判断总记录数,而是判断是否为空,为空的话不加

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

4.6update优化

  • 更新字段要根据索引来更新。否则会把行锁升级为表锁,锁住整张表的话会导致每次的更新时间变长

5锁

全局锁就是对整个数据库实例加锁,加锁后整个实例就处于只读状态,后续的DML的写语句,DDL语句,已经更新操作的事务提交语句都将被阻塞。 其典型的使用场景是做全库的逻辑备份,对所有的表进行锁定,从而获取一致性视图,保证数据的完整性。

  1. 全局锁:锁定数据库中的所有表
  2. 表级锁:幂次操作锁住整张表
  3. 行级锁:每次操作锁住对应的行数据.
相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
19天前
|
关系型数据库 MySQL
【MySQL实战笔记】07 | 行锁功过:怎么减少行锁对性能的影响?-01
【4月更文挑战第18天】MySQL的InnoDB引擎支持行锁,而MyISAM只支持表锁。行锁在事务开始时添加,事务结束时释放,遵循两阶段锁协议。为减少锁冲突影响并发,应将可能导致最大冲突的锁操作放在事务最后。例如,在电影票交易中,应将更新影院账户余额的操作安排在事务末尾,以缩短锁住关键行的时间,提高系统并发性能。
14 4
|
19天前
|
关系型数据库 MySQL 数据库
【MySQL实战笔记】 06 | 全局锁和表锁 :给表加个字段怎么有这么多阻碍?-01
【4月更文挑战第17天】MySQL的锁分为全局锁、表级锁和行锁。全局锁用于全库备份,可能导致业务暂停或主从延迟。不加锁备份会导致逻辑不一致。推荐使用`FTWRL`而非`readonly=true`因后者可能影响其他逻辑且异常处理不同。表级锁如`lock tables`限制读写并限定操作对象,常用于并发控制。元数据锁(MDL)在访问表时自动加锁,确保读写正确性。
67 31
|
28天前
|
存储 关系型数据库 MySQL
【MySQL实战笔记】 04 | 深入浅出索引(上)-01
【4月更文挑战第8天】这篇文章除了介绍索引的作用和提高查询效率的原理,还探讨了三种常见的数据结构:哈希表、有序数组和搜索树。哈希表适合等值查询,但不支持范围查询;有序数组利用二分查找实现快速等值查询,但更新成本高;二叉搜索树保持平衡时查询高效,但磁盘存储时效率低。文章指出,由于磁盘读取延迟,实际数据库索引设计需考虑减少磁盘访问次数。
34 5
|
1月前
|
SQL 关系型数据库 MySQL
【MySQL实战笔记】02.一条SQL更新语句是如何执行的-1
【4月更文挑战第4天】SQL更新语句执行涉及查询和日志模块,主要为`redo log`和`binlog`。`redo log`先写日志再写磁盘,保证`crash-safe`;`binlog`记录逻辑日志,支持所有引擎,且追加写入。执行过程分为执行器查找数据、更新内存和`redo log`(prepare状态)、写入`binlog`、提交事务(`redo log`转commit)。两阶段提交确保日志逻辑一致,支持数据库恢复至任意时间点。
20 0
|
1月前
|
SQL 安全 关系型数据库
【MySQL实战笔记】03.事务隔离:为什么你改了我还看不见?-01
【4月更文挑战第6天】MySQL事务的隔离性确保数据操作的完整性和一致性,ACID原则包括原子性、一致性、隔离性和持久性。事务隔离级别有四种:读未提交、读提交、可重复读和串行化,分别解决并发问题如脏读、不可重复读和幻读。不同隔离级别在效率和安全性间权衡,例如读未提交允许未提交变更可见,而串行化通过锁保证安全但可能降低效率。在不同隔离级别下,事务看到的数据状态会有所变化,例如在可重复读级别,事务始终看到初始数据,而在串行化级别,事务会等待其他事务完成再继续,避免数据冲突。
278 10
|
4天前
|
存储 SQL 关系型数据库
MySQL万字超详细笔记❗❗❗
MySQL万字超详细笔记❗❗❗
39 1
MySQL万字超详细笔记❗❗❗
|
8天前
|
SQL 关系型数据库 MySQL
【MySQL系列笔记】MySQL总结
MySQL 是一种关系型数据库,说到关系,那么就离不开表与表之间的关系,而最能体现这种关系的其实就是我们接下来需要介绍的主角 SQL,SQL 的全称是 Structure Query Language ,结构化的查询语言,它是一种针对表关联关系所设计的一门语言,也就是说,学好 MySQL,SQL 是基础和重中之重。SQL 不只是 MySQL 中特有的一门语言,大多数关系型数据库都支持这门语言。
180 8
|
8天前
|
SQL 关系型数据库 MySQL
【MySQL系列笔记】常用SQL
常用SQL分为三种类型,分别为DDL,DML和DQL;这三种类型的SQL语句分别用于管理数据库结构、操作数据、以及查询数据,是数据库操作中最常用的语句类型。 在后面学习的多表联查中,SQL是分析业务后业务后能否实现的基础,以及后面如何书写动态SQL,以及完成级联查询的关键。
163 6
|
8天前
|
存储 关系型数据库 MySQL
【MySQL系列笔记】InnoDB引擎-数据存储结构
InnoDB 存储引擎是MySQL的默认存储引擎,是事务安全的MySQL存储引擎。该存储引擎是第一个完整ACID事务的MySQL存储引擎,其特点是行锁设计、支持MVCC、支持外键、提供一致性非锁定读,同时被设计用来最有效地利用以及使用内存和 CPU。因此很有必要学习下InnoDB存储引擎,它的很多架构设计思路都可以应用到我们的应用系统设计中。
155 4
|
8天前
|
SQL 存储 关系型数据库
【MySQL系列笔记】SQL优化
SQL优化是通过调整数据库查询、索引、表结构和配置参数等方式,提高SQL查询性能和效率的过程。它旨在减少查询执行时间、减少系统资源消耗,从而提升数据库系统整体性能。优化方法包括索引优化、查询重写、表分区、适当选择和调整数据库引擎等。
186 3