MySQL5.7对PREPARE STATEMENT和UNION ALL的小优化

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
云数据库 RDS MySQL,高可用系列 2核4GB
简介:

这两个问题都是之前曾经在生产环境遇到过的,在MySQL5.7里都被很好的解决掉了。简单的记录下;

Q1:
对于prepare statement,总是需要生成完整的SQL,而生成的主要目的是为了复制 (即时你的复制模式为ROW模式!!!)
大概是2012年的下半年,接到一个线上的case,有业务用prepare statement导入数据非常缓慢,导入的方式类似于insert into tbname values (?)….(?)。。。大量的”?”。业务方发现这种批量插入的方式奇慢无比,完全无法满足业务的需要。

从perf 输出我们看到,bmove_upp 的占比非常高,进而根据其调用栈发现卡在Prepared_statement::setup_set_params

具体的不细说了,测试数据和当时我为了绕过这个问题写的一个小patch,可以阅读这个bug report:http://bugs.mysql.com/bug.php?id=67676

修复的方式也很简单,就是对于ROW模式,不再为prepared statement组建SQL.

TIPS: 在5.7里bmove_upp函数已经被移除了,改而使用memmove (Rev:5943)

5.7.2的change log:
Performance of prepared DML statements containing ? parameter substitution markers was improved under row-based logging format: Since the binary log in this case need not include the statement text, and since the statement will not be forced to statement-based logging as some DDL statements might be, there is no need to substitute ? markers to produce a statement suitable for logging. (Bug #67676, Bug #16038776)

官方Patch:Rev:5360, 和我的fix基本类似

Q2:
使用union all来聚合多个SELECT的结果时,需要创建临时表;但这种行为在使用UNION ALL时,是没有必要的,因为建立临时表的目的是为了去重,而根据UNION ALL的语义是无需这么做的。

这是我第一次在线上遇到这个问题,业务方使用大约20个union all来进行数据导出,导致实例的IO直接hang死,经过半天的排查,才定位到原因,年少无知的俺在Facebook上感慨了下,就有人指出这已经是个老Bug了….o(╯□╰)o

Discuss on Facebook:
fb-union-all

Bug连接:http://bugs.mysql.com/bug.php?id=50674

该Bug在最近的MySQL5.7.3中被fix掉,真可谓举世欢庆啊, Percona的Peter还专门撰文提到这个问题…
根据change log的描述,满足如下条件的union将无需创建临时表(参考函数st_select_lex_unit::union_needs_tmp_table):
* The union is UNION ALL, not UNION or UNION DISTINCT.
* There is no global ORDER BY clause.
* The union is not the top-level query block of an {INSERT | REPLACE}
… SELECT … statement.
总的来说,在fix该bug后,以后可以放心的使用UNION ALL了。

官方Patch: Rev:6836  及 Rev:6847


相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
2月前
|
SQL 监控 关系型数据库
MySQL优化: CPU高 处理脚本 pt-kill脚本
MySQL优化: CPU高 处理脚本 pt-kill脚本
|
29天前
|
SQL 缓存 关系型数据库
MySQL高级篇——关联查询和子查询优化
左外连接:优先右表创建索引,连接字段类型要一致、内连接:驱动表由数据量和索引决定、 join语句原理、子查询优化:拆开查询或优化成连接查询
MySQL高级篇——关联查询和子查询优化
|
29天前
|
算法 关系型数据库 MySQL
MySQL高级篇——排序、分组、分页优化
排序优化建议、案例验证、范围查询时索引字段选择、filesort调优、双路排序和单路排序、分组优化、带排序的深分页优化
MySQL高级篇——排序、分组、分页优化
|
13天前
|
存储 关系型数据库 MySQL
MySQL索引失效及避免策略:优化查询性能的关键
MySQL索引失效及避免策略:优化查询性能的关键
94 3
|
13天前
|
缓存 关系型数据库 MySQL
MySQL数据库优化:提升性能和扩展性的关键技巧
MySQL数据库优化:提升性能和扩展性的关键技巧
36 2
|
13天前
|
监控 关系型数据库 MySQL
如何优化MySQL数据库的索引以提升性能?
如何优化MySQL数据库的索引以提升性能?
29 0
|
13天前
|
监控 关系型数据库 MySQL
深入理解MySQL数据库索引优化
深入理解MySQL数据库索引优化
25 0
|
2月前
|
缓存 关系型数据库 MySQL
在Linux中,如何优化MySQL性能,包括索引优化和查询分析?
在Linux中,如何优化MySQL性能,包括索引优化和查询分析?
|
2月前
|
关系型数据库 MySQL
MySQl优化:使用 jemalloc 分配内存
MySQl优化:使用 jemalloc 分配内存
|
2月前
|
存储 SQL 关系型数据库
探索MySQL的执行奥秘:从查询执行到数据存储与优化的深入解析
探索MySQL的执行奥秘:从查询执行到数据存储与优化的深入解析

热门文章

最新文章