Processing math: 100%

关于RDS实例CPU超过100%的分析

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,高可用系列 2核4GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介:

经常听见用户说自己的rds实例cpu超过100%,通常这种情况都是由于sql性能问题导致的,下面我用一则案例来分析:

用户实例zuowenwang反映cpu超过100%,实例偶尔出现卡住的现象;

1.原理:cpu消耗过大通常情况下都是有慢sql造成的,这里的慢sql包括全表扫描,扫描数据量过大,内存排序,磁盘排序,锁争用等待等;

2.表现现象sql执行状态为:sending data,Copying to tmp table,Copying to tmp table on disk,Sorting result,locked;

3.解决方法:用户可以登录到rds,通过show processlist查看当前正在执行的sql,当执行完show processlist后出现大量的语句,通常其状态出现sending data,Copying to tmp table,Copying to tmp table on disk,Sorting result, Using filesort 都是sql有性能问题;

A.sending data表示:sql正在从表中查询数据,如果查询条件没有适当的索引,则会导致sql执行时间过长;

B.Copying to tmp table on disk:出现这种状态,通常情况下是由于临时结果集太大,超过了数据库规定的临时内存大小,需要拷贝临时结果集到磁盘上,这个时候需要用户对sql进行优化;

C.Sorting result, Using filesort:出现这种状态,表示sql正在执行排序操作,排序操作都会引起较多的cpu消耗,通常的优化方法会添加适当的索引来消除排序,或者缩小排序的结果集;

通过show processlist发现如下sql:

Sql A.

| 2815961 | sanwenba  | 10.241.142.197:55190 | sanwenba | Query   | 0 | Sorting RESULT       | 
SELECT z.aid,z.subject FROM www_zuowen z RIGHT JOIN www_zuowenaddviews za ON za.aid=z.aid 
ORDER BY za.viewnum DESC LIMIT 10;

性能sql:

SELECT z.aid,z.subject FROM www_zuowen z RIGHT JOIN www_zuowenaddviews za ON za.aid=z.aid
 ORDER BY za.viewnum DESC LIMIT 10;

用explain 查看执行计划:

sanwenba@3018 10:00:54>explain SELECT z.aid,z.subject FROM www_zuowen z 
RIGHT JOIN www_zuowenaddviews za ON za.aid=z.aid ORDER BY za.viewnum DESC LIMIT 10;
 
+----+-------------+-------+--------+---------------+---------+---------+-----------------+------
 
| id | select_type | TABLE | TYPE   | possible_keys | KEY     | key_len | REF     | ROWS   | Extra |
 
+----+-------------+-------+--------+---------------+---------+---------+-----------------+------
 
|  1 | SIMPLE      | za    | INDEX  | NULL          | viewnum | 6       | NULL            | 537029 | USING INDEXUSING filesort |
 
|  1 | SIMPLE      | z     | eq_ref | PRIMARY       | PRIMARY | 3       | sanwenba.za.aid |      1 |  |

添加适当索引消除排序:

sanwenba@3018 10:02:33 ALTER TABLE www_zuowenaddviews ADD INDEX ind_www_zuowenaddviews_viewnum(viewnum);
sanwenba@3018 10:03:27explain SELECT z.aid,z.subject FROM www_zuowen z RIGHT JOIN www_zuowenaddviews za ON za.aid=z.aid ORDER BY za.viewnum DESC LIMIT 10;
+----+-------------+-------+--------+---------------+--------------------------------+---------+-
 
| id | select_type | TABLE | TYPE   | possible_keys | KEY  | key_len | REF      | ROWS | Extra       |
 
+----+-------------+-------+--------+---------------+--------------------------------+---------+-
 
|  1 | SIMPLE      | za    | INDEX  | NULL  | ind_www_zuowenaddviews_viewnum | 3       | NULL       |   10 | USING INDEX |
 
|  1 | SIMPLE    | z     | eq_ref | PRIMARY PRIMARY | 3  | sanwenba.za.aid |    1 |             |
 
+----+-------------+-------+--------+---------------+--------------------------------+---------+-

Sql B:

| 2825321 | netzuowen | 10.200.120.41:44172  | netzuowen | Query |     2 | Copying TO tmp TABLE ON disk 
SELECT * FROM `www_article` WHERE 1=1 ORDER BY rand() LIMIT 0,30

这种sql order by rand()同样也会出现排序;

netzuowen@3018 10:23:55
EXPLAIN  SELECT * FROM `www_zuowensearch` WHERE checked = 1 ORDER BY rand() LIMIT 0,10 ;
+----+-------------+------------------+------+---------------+--------+---------+-------+------+
 
| id | select_type | TABLE            | TYPE | possible_keys | KEY    | key_len | REF   | ROWS | Extra|
 
+----+-------------+------------------+------+---------------+--------+---------+-------+------+
 
|  1 | SIMPLE      | www_zuowensearch | REF  | newest        | newest | 1       | const | 1443 | USING TEMPORARYUSING filesort |
 
+----+-------------+------------------+------+---------------+--------+---------+-------+------+

这种随机抽取一批记录的做法性能是很差的,表中的数据量越大,性能就越差:

解决方法如下:

http://www.piaoyi.org/php/MySQL-Order-By-Rand.html

第一种方案,即原始的 Order By Rand() 方法:

$sql=”SELECT * FROM content ORDER BY rand() LIMIT 12″;

result=mysqlquery(sql,$conn);

$n=1;

$rnds=”;

while(row=mysqlfetcharray(result)){

rnds=rnds.n..<ahref=show.row[‘id’].”-“.strtolower(trim(row[title])).>.row[‘title’].”</a><br />\n”;

$n++;

}

3万条数据查12条随机记录,需要0.125秒,随着数据量的增大,效率越来越低。

第二种方案,改进后的 JOIN 方法:

for(n=1;n<=12;$n++){

$sql=”SELECT * FROM `content` AS t1

JOIN (SELECT ROUND(RAND() * (SELECT MAX(id) FROM `content`)) AS id) AS t2

WHERE t1.id >= t2.id ORDER BY t1.id ASC LIMIT 1″;

result=mysqlquery(sql,$conn);

yi=mysqlfetcharray(result);

rnds=rnds.n..<ahref=show.yi[‘id’].”-“.strtolower(trim(yi[title])).>.yi[‘title’].”</a><br />\n”;

}

3万条数据查12条随机记录,需要0.004秒,效率大幅提升,比第一种方案提升了约30倍。缺点:多次select查询,IO开销大。

第三种方案,SQL语句先随机好ID序列,用 IN 查询(飘易推荐这个用法,IO开销小,速度最快):

$sql=”SELECT MAX(id),MIN(id) FROM content”;

result=mysqlquery(sql,$conn);

yi=mysqlfetcharray(result);

idmax=yi[0];

idmin=yi[1];

$idlist=”;

for(i=1;i<=20;$i++){

if(i==1){idlist=mt_rand(idmin,idmax); }

else{ idlist=idlist.’,’.mt_rand(idmin,idmax); }

}

idlist2=id,.idlist;

sql=selectfromcontentwhereidin(idlist) order by field($idlist2) LIMIT 0,12″;

result=mysqlquery(sql,$conn);

$n=1;

$rnds=”;

while(row=mysqlfetcharray(result)){

rnds=rnds.n..<ahref=show.row[‘id’].”-“.strtolower(trim(row[title])).>.row[‘title’].”</a><br />\n”;

$n++;

}

3万条数据查12条随机记录,需要0.001秒,效率比第二种方法又提升了4倍左右,比第一种方法提升120倍。注,这里使用了 order by field($idlist2) 是为了不排序,否则 IN 是自动会排序的。缺点:有可能遇到ID被删除的情况,所以需要多选几个ID。

C.出现sending data的情况:

| 2833185 | sanwenba        | 10.241.91.81:45964   | sanwenba | Query    |     1 | Sending DATA   |
 SELECT * FROM `www_article` WHERE CONCAT(subject,description) LIKE '%??%' ORDER BY aid DESC LIMIT 75,15

性能sql:

SELECT * FROM `www_article` WHERE CONCAT(subject,description) like ‘%??%’ ORDER BY aid desc LIMIT 75,15

这种sql是典型的sql分页写法不规范的情况,需要将sql进行改写:

SELECT * FROM www_article t1,(SELECT aid FROM www_article WHERE CONCAT(subject,description) LIKE '%??%' ORDER BY aid DESC LIMIT 75,15) t2 WHERE t1.aid=t2.aid;

注意这里的索引需要改用覆盖索引:aid+ subject+description

优化后的结果:

总结:

Sql优化是性能优化的最后一步,虽然位于塔顶,他最直影响用户的使用,但也是最容易优化的步骤,往往效果最直接。

RDS-mysql由于有资源的隔离,不同的实例规格拥有的iops能力不同,比如新1型提供的iops为150个,也就是每秒能够提供150次的随机磁盘io操作,所以如果用户的数据量很大,内存很小,由于iops的限制,一条慢sql就很有可能消耗掉所有的io资源,而影响其他的sql查询,对于数据库来说就是所有的sql需要执行很长的时间才能返回结果,对于应用来说就会造成整体响应的变慢;所以优化永不止境,既可以帮助你的系统稳定,同时又可以节约你的成本,何乐不为。

相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
打赏
0
0
0
0
9789
分享
相关文章
购买RDS实例报错SLR 授权:未授权,应该怎么处理?
在阿里云购买RDS实例时,可能会遇到“SLR未授权”的报错。解决方法如下:1. 使用主账号登录控制台以确保权限充足;2. 在RDS购买页面选择正确的地域、引擎和产品系列,触发授权弹窗;3. 确认授权即可解决问题,若出现前端Bug导致报错,刷新页面即可。建议优先使用主账号避免RAM子账号权限配置复杂的问题。
145 29
【MySQL】SQL分析的几种方法
以上就是SQL分析的几种方法。需要注意的是,这些方法并不是孤立的,而是相互关联的。在实际的SQL分析中,我们通常需要结合使用这些方法,才能找出最佳的优化策略。同时,SQL分析也需要对数据库管理系统,数据,业务需求有深入的理解,这需要时间和经验的积累。
115 12
MySQL 查询优化分析 - 常用分析方法
本文介绍了MySQL查询优化分析的常用方法EXPLAIN、Optimizer Trace、Profiling和常用监控指标。
我是如何通过火焰图分析让应用CPU占用下降近20%的
分享作者在使用Arthas火焰图工具进行Java应用性能分析和优化的经验。
taosd 写入与查询场景下压缩解压及加密解密的 CPU 占用分析
在当今大数据时代,时序数据库的应用越来越广泛,尤其是在物联网、工业监控、金融分析等领域。TDengine 作为一款高性能的时序数据库,凭借独特的存储架构和高效的压缩算法,在存储和查询效率上表现出色。然而,随着数据规模的不断增长,在保证数据安全性和存储效率的同时,如何优化 CPU 的资源占用,成为了一个值得深入讨论的问题。
97 1
无缝集成 MySQL,解锁秒级 OLAP 分析性能极限,完成任务可领取三合一数据线!
通过 AnalyticDB MySQL 版、DMS、DTS 和 RDS MySQL 版协同工作,解决大规模业务数据统计难题,参与活动完成任务即可领取三合一数据线(限量200个),还有机会抽取蓝牙音箱大奖!
|
9月前
线程CPU异常定位分析
【10月更文挑战第3天】 开发过程中会出现一些CPU异常升高的问题,想要定位到具体的位置就需要一系列的分析,记录一些分析手段。
234 0
MySQL事务日志-Undo Log工作原理分析
事务的持久性是交由Redo Log来保证,原子性则是交由Undo Log来保证。如果事务中的SQL执行到一半出现错误,需要把前面已经执行过的SQL撤销以达到原子性的目的,这个过程也叫做"回滚",所以Undo Log也叫回滚日志。
241 7
MySQL事务日志-Undo Log工作原理分析
mysql慢查询每日汇报与分析
通过启用慢查询日志、提取和分析慢查询日志,可以有效识别和优化数据库中的性能瓶颈。结合适当的自动化工具和优化措施,可以显著提高MySQL数据库的性能和稳定性。希望本文的详解和示例能够为数据库管理人员提供有价值的参考,帮助实现高效的数据库管理。
161 11

热门文章

最新文章

推荐镜像

更多
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等

登录插画

登录以查看您的控制台资源

管理云资源
状态一览
快捷访问