101个MySQL调试和优化技巧

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS PostgreSQL,高可用系列 2核4GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介:

文章出自http://letong.me/mysql_optimization.html


MySQL 服务器硬件和操作系统调节:

1. 拥有足够的物理内存来把整个InnoDB文件加载到内存中——在内存中访问文件时的速度要比在硬盘中访问时快的多。

2. 不惜一切代价避免使用Swap交换分区 – 交换时是从硬盘读取的,它的速度很慢。

3. 使用电池供电的内存。

4. 使用高级的RAID – 最好是RAID10或更高。

5. 避免RAID5 – 确保数据库完整性的校验是要付出代价的。

6. 将操作系统和数据分区分开,不仅仅是逻辑上,还包括物理上 – 操作系统的读写操作会影响数据库的性能。

7. 把MySQL临时空间和复制日志与数据放到不同的分区 – 当数据库后台从磁盘进行读写操作时会影响数据库的性能。

8. 更多的磁盘空间等于更快的速度。

9. 更好更快的磁盘。

10. 使用 SAS 磁盘代替 SATA 磁盘。

11. 较小的硬盘比较大的硬盘快,尤其是在RAID配置的情况下。

12. 使用电池支持的高速缓存RAID控制器。

13. 避免使用软件磁盘阵列。

14. 考虑为数据分区使用固态IO卡 (不是磁盘驱动器)  – 这些卡能够为几乎任何数量的数据支持2GB/s的写入速度。

15. 在Linux中设置swappiness的值为0 – 在数据库服务器中没有理由缓存文件,这是一个服务器或台式机的优势。

16. 如果可以的话,使用  noatime 和 nodirtime 挂载文件系统 – 没有理由更新访问数据库文件的修改时间。

17. 使用 XFS 文件系统 – 一种比ext3更快、更小的文件系统,并且有许多日志选项, 而且ext3 已被证实与MySQL有双缓冲问题。

18. 调整 XFS 文件系统日志和缓冲变量 – 为了最高性能标准。

19. 在 Linux 系统中, 使用 NOOP 或者 DEADLINE IO 定时调度程序 – 同 NOOP 和 DEADLINE定时调度程序相比,这个 CFQ 和 ANTICIPATORY 定时调度程序 显得非常慢。

20. 使用64位的操作系统 – 对于MySQL,会有更大的内存支持和使用。

21. 删除服务器上未使用的安装包和守护进程 – 更少的资源占用。

22. 把使用MySQL的host和你的MySQL host放到一个hosts文件中 – 没有DNS查找。

23. 切勿强制杀死一个MySQL进程 – 你会损坏数据库和正在运行备份的程序。

24. 把服务器贡献给MySQL – 后台进程和其他服务能够缩短数据库占用CPU的时间。

MySQL 配置:

25. 当写入时,使用 innodb_flush_method=O_DIRECT 来避免双缓冲。

26. 避免使用 O_DIRECT 和 EXT3 文件系统 – 你将序列化所有要写入的。

27. 分配足够的 innodb_buffer_pool_size 来加载整个 InnoDB 文件到内存中– 少从磁盘中读取。

28. 不要将 innodb_log_file_size 参数设置太大, 这样可以更快同时有更多的磁盘空间 – 丢掉多的日志通常是好的,在数据库崩溃后可以降低恢复数据库的时间。

29. 不要混用 innodb_thread_concurrency 和 thread_concurrency 参数– 这2个值是不兼容的。

30. 分配一个极小的数量给 max_connections 参数 – 太多的连接会用尽RAM并锁定MySQL服务。

31. 保持 thread_cache 在一个相对较高的数字,大约 16 – 防止打开连接时缓慢。

32. 使用skip-name-resolve参数 – 去掉 DNS 查找。

33.如果你的查询都是重复的,并且数据不常常发生变化,那么可以使用查询缓存。但是如果你的数据经常发生变化,那么使用查询缓存会让你感到失望。

34.增大temp_table_size值,以防止写入磁盘

35.增大max_heap_table_size值,以防止写入磁盘

36.不要把sort_buffer_size值设置的太高,否则的话你的内存将会很快耗尽

37.根据key_read_requests和key_reads值来决定key_buffer的大小,一般情况下key_read_requests应该比key_reads值高,否则你不能高效的使用key_buffer

38.将innodb_flush_log_at_trx_commit设置为0将会提高性能,但是如果你要保持默认值(1)的话,那么你就要确保数据的完整性,同时你也要确保复制不会滞后。

39.你要有一个测试环境,来测试你的配置,并且在不影响正常生产的情况下,可以常常进行重启。

MySQL模式优化:

40. 保持你的数据库整理性。

41. 旧数据归档 – 删除多余的行返回或搜索查询。

42. 将您的数据加上索引.

43. 不要过度使用索引,比较与查询.

44. 压缩文字和BLOB数据类型 – 以节省空间和减少磁盘读取次数.

45. UTF 8和UTF16都低于latin1执行效率.

46. 有节制地使用触发器.

47. 冗余数据保持到最低限度 – 不重复不必要的数据.

48. 使用链接表,而不是扩展行.

49. 注意数据类型,在您的真实数据中,尽可能使用最小的一个.

50. 如果其他数据经常被用于查询时,而BLOB / TEXT数据不是,就把BLOB / TEXT数据从其他数据分离出来.

51.检查和经常优化表.

52. 经常重写InnoDB表优化.

53. 有时,当添加列时删除索引,然后在添加回来索引,这样就会更快.

54. 针对不同的需求,使用不同的存储引擎.

55. 使用归档存储引擎日志表或审计表-这是更有效地写道.

56.  会话数据存储在缓存(memcache)的而不是MySQL中 – 缓存允许自动自动填值的,并阻止您创建难以读取和写入到MySQL的时空数据.

57.存储可变长度的字符串时使用VARCHAR而不是CHAR – 节省空间,因为固定长度的CHAR,而VARCHAR长度不固定(UTF8不受此影响).

58. 逐步进行模式的变化 – 一个小的变化,可以有巨大的影响.

59.在开发环境中测试所有模式,反映生产变化.

60. 不要随意更改你的配置文件中的值,它可以产生灾难性的影响.

61. 有时候,在MySQL的configs少即是多.

62. 有疑问时使用一个通用的MySQL配置文件.

MySQL metrics widget

查询优化:

63. 使用慢查询日志去发现慢查询。

64. 使用执行计划去判断查询是否正常运行。

65. 总是去测试你的查询看看是否他们运行在最佳状态下 –久而久之性能总会变化。

66. 避免在整个表上使用count(*),它可能锁住整张表。

67. 使查询保持一致以便后续相似的查询可以使用查询缓存。

68. 在适当的情形下使用GROUP BY而不是DISTINCT。

69. 在WHERE, GROUP BY和ORDER BY子句中使用有索引的列。

70. 保持索引简单,不在多个索引中包含同一个列。

71. 有时候MySQL会使用错误的索引,对于这种情况使用USE INDEX。

72. 检查使用SQL_MODE=STRICT的问题。

73. 对于记录数小于5的索引字段,在UNION的时候使用LIMIT不是是用OR.

74. 为了 避免在更新前SELECT,使用INSERT ON DUPLICATE KEY或者INSERT IGNORE ,不要用UPDATE去实现。

75. 不要使用 MAX,使用索引字段和ORDER BY子句。

76. 避免使用ORDER BY RAND().

77. LIMIT M,N实际上可以减缓查询在某些情况下,有节制地使用。

78. 在WHERE子句中使用UNION代替子查询。

79. 对于UPDATES(更新),使用 SHARE MODE(共享模式),以防止独占锁。

80. 在重新启动的MySQL,记得来温暖你的数据库,以确保您的数据在内存和查询速度快。

81. 使用DROP TABLE,CREATE TABLE DELETE FROM从表中删除所有数据。

82. 最小化的数据在查询你需要的数据,使用*消耗大量的时间。

83. 考虑持久连接,而不是多个连接,以减少开销。

84. 基准查询,包括使用服务器上的负载,有时一个简单的查询可以影响其他查询。

85. 当负载增加您的服务器上,使用SHOW PROCESSLIST查看慢的和有问题的查询。

86. 在开发环境中产生的镜像数据中 测试的所有可疑的查询。

MySQL 备份过程:

87. 从二级复制服务器上进行备份。

88. 在进行备份期间停止复制,以避免在数据依赖和外键约束上出现不一致。

89. 彻底停止MySQL,从数据库文件进行备份。

90. 如果使用 MySQL dump进行备份,请同时备份二进制日志文件 – 确保复制没有中断。

91. 不要信任LVM 快照 – 这很可能产生数据不一致,将来会给你带来麻烦。

92. 为了更容易进行单表恢复,以表为单位导出数据 – 如果数据是与其他表隔离的。

93. 当使用mysqldump时请使用 –opt。

94. 在备份之前检查和优化表。

95. 为了更快的进行导入,在导入时临时禁用外键约束。

96. 为了更快的进行导入,在导入时临时禁用唯一性检测。

97. 在每一次备份后计算数据库,表以及索引的尺寸,以便更够监控数据尺寸的增长。

98. 通过自动调度脚本监控复制实例的错误和延迟。

99. 定期执行备份。

100. 定期测试你的备份。

101: 执行MySQL 监控。


相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。   相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情: https://www.aliyun.com/product/rds/mysql 
相关文章
|
3月前
|
SQL 缓存 关系型数据库
MySQL 慢查询是怎样优化的
本文深入解析了MySQL查询速度变慢的原因及优化策略,涵盖查询缓存、执行流程、SQL优化、执行计划分析(如EXPLAIN)、查询状态查看等内容,帮助开发者快速定位并解决慢查询问题。
144 0
|
1月前
|
缓存 关系型数据库 MySQL
降低MySQL高CPU使用率的优化策略。
通过上述方法不断地迭代改进,在实际操作中需要根据具体场景做出相对合理判断。每一步改进都需谨慎评估其变动可能导致其他方面问题,在做任何变动前建议先在测试环境验证其效果后再部署到生产环境中去。
76 6
|
2月前
|
存储 SQL 关系型数据库
MySQL 核心知识与索引优化全解析
本文系统梳理了 MySQL 的核心知识与索引优化策略。在基础概念部分,阐述了 char 与 varchar 在存储方式和性能上的差异,以及事务的 ACID 特性、并发事务问题及对应的隔离级别(MySQL 默认 REPEATABLE READ)。 索引基础部分,详解了 InnoDB 默认的 B+tree 索引结构(多路平衡树、叶子节点存数据、双向链表支持区间查询),区分了聚簇索引(数据与索引共存,唯一)和二级索引(数据与索引分离,多个),解释了回表查询的概念及优化方法,并分析了 B+tree 作为索引结构的优势(树高低、效率稳、支持区间查询)。 索引优化部分,列出了索引创建的六大原则
|
2月前
|
存储 SQL 关系型数据库
MySQL 动态分区管理:自动化与优化实践
本文介绍了如何利用 MySQL 的存储过程与事件调度器实现动态分区管理,自动化应对数据增长,提升查询性能与数据管理效率,并详细解析了分区创建、冲突避免及实际应用中的关键注意事项。
118 0
|
4月前
|
存储 SQL 关系型数据库
京东面试:mysql深度分页 严重影响性能?根本原因是什么?如何优化?
京东面试:mysql深度分页 严重影响性能?根本原因是什么?如何优化?
京东面试:mysql深度分页 严重影响性能?根本原因是什么?如何优化?
|
6月前
|
存储 关系型数据库 MySQL
MySQL细节优化:关闭大小写敏感功能的方法。
通过这种方法,你就可以成功关闭 MySQL 的大小写敏感功能,让你的数据库操作更加便捷。
466 19
|
7月前
|
SQL 关系型数据库 MySQL
基于SQL Server / MySQL进行百万条数据过滤优化方案
对百万级别数据进行高效过滤查询,需要综合使用索引、查询优化、表分区、统计信息和视图等技术手段。通过合理的数据库设计和查询优化,可以显著提升查询性能,确保系统的高效稳定运行。
253 9
|
7月前
|
关系型数据库 MySQL 数据库
从MySQL优化到脑力健康:技术人与效率的双重提升
聊到效率这个事,大家应该都挺有感触的吧。 不管是技术优化还是个人状态调整,怎么能更快、更省力地完成事情,都是我们每天要琢磨的事。
158 23
|
7月前
|
监控 关系型数据库 MySQL
MySQL和SQLSugar百万条数据查询分页优化
在面对百万条数据的查询时,优化MySQL和SQLSugar的分页性能是非常重要的。通过合理使用索引、调整查询语句、使用缓存以及采用高效的分页策略,可以显著提高查询效率。本文介绍的技巧和方法,可以为开发人员在数据处理和查询优化中提供有效的指导,提升系统的性能和用户体验。掌握这些技巧后,您可以在处理海量数据时更加游刃有余。
727 9
|
7月前
|
关系型数据库 MySQL
图解MySQL【日志】——磁盘 I/O 次数过高时优化的办法
当 MySQL 磁盘 I/O 次数过高时,可通过调整参数优化。控制刷盘时机以降低频率:组提交参数 `binlog_group_commit_sync_delay` 和 `binlog_group_commit_sync_no_delay_count` 调整等待时间和事务数量;`sync_binlog=N` 设置 write 和 fsync 频率,`innodb_flush_log_at_trx_commit=2` 使提交时只写入 Redo Log 文件,由 OS 择机持久化,但两者在 OS 崩溃时有丢失数据风险。
173 3

推荐镜像

更多