MySQL性能管理及架构设计(三):SQL查询优化、分库分表 - 完结篇

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群版 2核4GB 100GB
推荐场景:
搭建个人博客
云数据库 RDS MySQL,高可用版 2核4GB 50GB
简介:

一、SQL查询优化(重要

1.1 获取有性能问题SQL的三种方式

  1. 通过用户反馈获取存在性能问题的SQL;

  2. 通过慢查日志获取存在性能问题的SQL;

  3. 实时获取存在性能问题的SQL;

1.1.2 慢查日志分析工具

相关配置参数:


slow_query_log # 启动停止记录慢查日志,慢查询日志默认是没有开启的可以在配置文件中开启(on)slow_query_log_file # 指定慢查日志的存储路径及文件,日志存储和数据从存储应该分开存储long_query_time # 指定记录慢查询日志SQL执行时间的阀值默认值为10秒通常,对于一个繁忙的系统来说,改为0.001秒(1毫秒)比较合适log_queries_not_using_indexes #是否记录未使用索引的SQL

常用工具:mysqldumpslowpt-query-digest


pt-query-digest --explain h=127.0.0.1,u=root,p=p@ssWord slow-mysql.log

1.1.3 实时获取有性能问题的SQL(推荐

559b925ff63530fabf879a1b51a932b35f19ac93
SELECT id,user,host,DB,command,time,state,infoFROM information_schema.processlistWHERE TIME>=60

查询当前服务器执行超过60sSQL,可以通过脚本周期性的来执行这条SQL,就能查出有问题的SQL

1.2 SQL的解析预处理及生成执行计划(重要

1.2.1 查询过程描述(重点!!!


6834c773ec7f48f14755d20b7f65f03933411327

通过上图可以清晰的了解到MySql查询执行的大致过程:

  1. 发送SQL语句。

  2. 查询缓存,如果命中缓存直接返回结果。

  3. SQL解析,预处理,再由优化器生成对应的查询执行计划。

  4. 执行查询,调用存储引擎API获取数据。

  5. 返回结果。

1.2.2 查询缓存对性能的影响(建议关闭缓存

第一阶段:
相关配置参数:


query_cache_type # 设置查询缓存是否可用query_cache_size # 设置查询缓存的内存大小query_cache_limit # 设置查询缓存可用的存储最大值(加上sql_no_cache可以提高效率)query_cache_wlock_invalidate # 设置数据表被锁后是否返回缓存中的数据query_cache_min_res_unit # 设置查询缓存分配的内存块的最小单
缓存查找是利用对大小写敏感的哈希查找来实现的,Hash查找只能进行全值查找(sql完全一致),如果缓存命中,检查用户权限,如果权限允许,直接返回,查询不被解析,也不会生成查询计划。

在一个读写比较频繁的系统中,建议关闭缓存,因为缓存更新会加锁。将query_cache_type设置为off,query_cache_size设置为0

1.2.3 第二阶段:MySQL依照执行计划和存储引擎进行交互

这个阶段包括了多个子过程:


d12c547b434b9fdfe47ecd0872ffe9679c558ac8

一条查询可以有多种查询方式,查询优化器会对每一种查询方式的(存储引擎)统计信息进行比较,找到成本最低的查询方式,这也就是索引不能太多的原因

1.3 会造成MySQL生成错误的执行计划的原因

1、统计信息不准确
2、成本估算与实际的执行计划成本不同

a7c307c09905286a78beda8cbac92e428025e625

3、给出的最优执行计划与估计的不同

5c70589fbf2547616ac66a285c3a6666c13da8d0

4、MySQL不考虑并发查询
5、会基于固定规则生成执行计划
6、MySQL不考虑不受其控制的成本,如存储过程,用户自定义函数

1.4 MySQL优化器可优化的SQL类型

查询优化器:对查询进行优化并查询mysql认为的成本最低的执行计划。 为了生成最优的执行计划,查询优化器会对一些查询进行改写

可以优化的sql类型

1、重新定义表的关联顺序;

9086a814f6ffb2aff6786c5c36e4a06aa629d269

2、将外连接转换为内连接;

3、使用等价变换规则;

be42c85cf05bc4f5dd9a5f5d5c391a6d27aa6c2f

4、优化count(),min(),max();

bf5f8ba5a825f7e84875565b398b89a62bc19559

5、将一个表达式转换为常数;
6、子查询优化;
0da9d9bc5a91496f722cb603ccc379b8133e01bd

7、提前终止查询,如发现一个不成立条件(如where id = -1),立即返回一个空结果;

8、对in()条件进行优化;

1.5 查询处理各个阶段所需要的时间

1.5.1 使用profile(目前已经不推荐使用了)

set profiling = 1; #启动profile,这是一个session级的配制执行查询show profiles; # 查询每一个查询所消耗的总时间的信息show profiles for query N; # 查询的每个阶段所消耗的时间

1.5.2 performance_schema是5.5引入的一个性能分析引擎(5.5版本时期开销比较大)


启动监控和历史记录表:use performance_schema


update setup_instruments set enabled='YES',TIME = 'YES' WHERE NAME LIKE 'stage%';update set_consumbers set enabled='YES',TIME = 'YES' WHERE NAME LIKE 'event%';

c083a1a4e20aeebe0266a606810da2b026021a1a

1.6 特定SQL的查询优化

1.6.1 大表的数据修改

3ae447660cbaf33c2b849e1cb24253b52ec5ac2a

1.6.2 大表的结构修改

50a0de3e8d4dfa6dba45d38b7c38d26dae40cdd2
  1. 利用主从复制,先对从服务器进入修改,然后主从切换

  2. (推荐)

添加一个新表(修改后的结构),老表数据导入新表,老表建立触发器,修改数据同步到新表, 老表加一个排它锁(重命名), 新表重命名, 删除老表。
b9e43625bb84de720ba2870c32ca6c79128a5b82

修改语句这个样子:


alter table sbtest4 modify c varchar(150) not null default ''

利用工具修改:

f371846c5e50c84bb9ba5b947df0ee96df86a5cc

1.6.3 优化not in 和 <> 查询

子查询改写为关联查询:

74637baace7c94807d624b161fe9be6fd3f7b6ef

二、分库分表

2.1 分库分表的几种方式

分担读负载 可通过 一主多从,升级硬件来解决。

2.1.1 把一个实例中的多个数据库拆分到不同实例(集群)


7c37174f9df50e01f6ffa531e1e28e89aa84126b

拆分简单,不允许跨库。但并不能减少写负载。

2.1.2 把一个库中的表分离到不同的数据库中


ecd6d2916fb3a2ebb878ba89700e0fd2c666716e

该方式只能在一定时间内减少写压力。

以上两种方式只能暂时解决读写性能问题。

2.1.3 数据库分片

对一个库中的相关表进行水平拆分到不同实例的数据库中
a1285f738d1c3b05f6eafd3cab065c6250be0b7e

2.1.3.1 如何选择分区键

  1. 分区键要能尽可能避免跨分区查询的发生
  2. 分区键要尽可能使各个分区中的数据平均

2.1.3.2 分片中如何生成全局唯一ID

6d32b717b1094888115e049fb48fb0d02951154e

扩展:表的垂直拆分和水平拆分




原文发布时间为:2018-09-19

本文作者:唐成勇

本文来自云栖社区合作伙伴“云时代架构”,了解相关信息可以关注“云时代架构”。

相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
4天前
|
SQL 存储 监控
SQL Server的并行实施如何优化?
【7月更文挑战第23天】SQL Server的并行实施如何优化?
25 13
|
1天前
|
SQL 关系型数据库 分布式数据库
PolarDB产品使用问题之SQL查询该如何优化
PolarDB产品使用合集涵盖了从创建与管理、数据管理、性能优化与诊断、安全与合规到生态与集成、运维与支持等全方位的功能和服务,旨在帮助企业轻松构建高可用、高性能且易于管理的数据库环境,满足不同业务场景的需求。用户可以通过阿里云控制台、API、SDK等方式便捷地使用这些功能,实现数据库的高效运维与持续优化。
|
3天前
|
SQL 缓存 关系型数据库
使用EXPLAIN进行SQL查询优化时,应该关注哪些信息
使用EXPLAIN进行SQL查询优化时,应该关注哪些信息
13 1
|
17天前
|
弹性计算 负载均衡 网络协议
在缓解DDoS攻击方面,如何优化业务架构?
**缓解DDoS攻击的策略:** 1. 缩小暴露面,隔离业务并隐藏非必需服务端口。 2. 使用VPC以增强内网安全。 3. 优化业务架构,进行压力测试,部署弹性伸缩和负载均衡。 4. 优化DNS解析,智能解析并屏蔽异常DNS响应。 5. 提供充足带宽以防攻击时影响正常流量。 6. 服务器安全加固,更新补丁,限制服务和端口,使用防火墙。 7. 建立应急响应预案,定期演练。 8. 考虑采用Web应用防火墙和专业DDoS防护服务。
152 17
|
6天前
|
SQL 存储 数据库
性能分析工具如Sql explain、show profile和mysqlsla在数据库性能优化中有什么作用
性能分析工具如Sql explain、show profile和mysqlsla在数据库性能优化中有什么作用
|
6天前
|
SQL 缓存 数据库
如何进行SQL优化?
【7月更文挑战第21天】如何进行SQL优化?
18 1
|
6天前
|
缓存 关系型数据库 MySQL
MySQL优化
【7月更文挑战第21天】MySQL优化
18 1
|
10天前
|
安全 数据安全/隐私保护 UED
优化用户体验:前后端分离架构下Python WebSocket实时通信的性能考量
【7月更文挑战第17天】前后端分离趋势下,WebSocket成为实时通信的关键,Python有`websockets`等库支持WebSocket服务。与HTTP轮询相比,WebSocket减少延迟,提高响应。连接管理、消息传输效率、并发处理及安全性是性能考量重点。使用WebSocket能优化用户体验,尤其适合社交、游戏等实时场景。开发应考虑场景需求,充分利用WebSocket优势。
27 3
|
10天前
|
关系型数据库 MySQL 调度
MySQL高级功能与优化策略深度探索
MySQL高级功能与优化策略深度探索
|
3天前
|
SQL
为什么使用odps.sql.groupby.skewindata = true优化后,逻辑执行计划会发生改变
为什么使用odps.sql.groupby.skewindata = true优化后,逻辑执行计划会发生改变

热门文章

最新文章