SQL自动审核-自助上线平台

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
云数据库 RDS MySQL,高可用系列 2核4GB
简介:

为了让DBA从日常繁琐的工作中解放出来,通过SQL自助平台,可以让开发自上线,开发提交SQL后就会自动返回优化建议,无需DBA的再次审核,从而提升上线效率,有利于建立数据库开发规范。


借鉴了去哪网Inception的思路并且把美团网SQLAdvisor(索引优化建议)集成在一起,并结合了之前写的《DBA的40条军规》纳入了审核规则里,用PHP实现。目前在我公司内部使用。


SQL自动审核主要完成两方面目的:
1、避免性能太差的SQL进入生产系统,导致整体性能降低。
2、检查开发设计的索引是否合理,是否需要添加索引。


思路其实很简单:
1、获取开发提交的SQL
2、对要执行的SQL做分析,触碰事先定义好的规则来判断这个SQL是否可以自动审核通过,未通过审核的需要人工处理。


下面是首页界面:

界面3.png


使用说明:

1、针对select/insert/update/create/alter加了规则,delete需要审批。 
2、语句之间要有空格,例where id = 100,没有空格会影响判断的准确性。 
3、SQL语句后面要加分号; MySQL解析器规定分号才可以执行SQL。
4、反引号`会造成上线失败,需要用文本编辑器替换掉。
5、支持多条SQL解析,用一个分号;分割。例如:
     insert into t1 values(1,'a');
     insert into t1 values(2,'b'); 

6、JSON格式里的双引号要用反斜杠进行转义,例如:{\"dis_text\":\"nba\"}。


  • SELECT审核

1、开发人员可以直接将SQL语句提交到平台进行风险评估

2、平台对SQL语句进行分析,自动给出其不符合开发规范的改进意见

3、适用场景:应用开发阶段

检查项:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
1、 select  * 是否有必要查询所有的字段?
2、警告!没有where条件,注意where后面的字段要加上索引
3、没有limit会查询更多的数据
4、警告!子查询性能低下,请转为 join 表关联
5、提示: in 里面的数值不要超过1000个
6、提示:采用 join 关联,注意关联字段要都加上索引,如on a. id =b. id
7、提示:MySQL对多表 join 关联性能低下,建议不要超过3个表以上的关联
8、警告!like  '%%' 双百分号无法用到索引,like  'mysql%' 这样是可以利用到索引的
9、提示:默认情况下,MySQL对所有GROUP BY col1,col2...的字段进行排序。如果查询包括GROUP BY,
想要避免排序结果的消耗,则可以指定ORDER BY NULL禁止排序。
10、警告!MySQL里用到order by rand()在数据量比较多的时候是很慢的,因为会导致MySQL全表扫描,故也不会用到索引
11、提示:是否要加一个having过滤下?
12、警告!禁止不必要的order by排序,因为前面已经count统计了
13、警告!MySQL里不支持函数索引,例DATE_FORMAT( 'create_time' , '%Y-%m-%d' )= '2016-01-01' 是无法用到索引的,需要改写为
create_time>= '2016-01-01 00:00:00'  and create_time<= '2016-01-01 23:59:59'

之后会调用美团网SQLAdvisor进行索引检查


使用概述:

1.png

1、选中你的数据库名字
2、在对话框中输入你要提交的SQL
3、点击提交审核按钮


2.png

提交以后,系统自动返回SQL优化改进意见。



  • insert审核

检查项:

1
1、警告: insert 表1  select  表2,会造成锁表。

3.png

审核通过以后,会弹出用户名和密码,提示上线:

4.png

点击我要上线按钮,会调用MySQL客户端进行语法校验和表是否存在等校验。

5.png



  • update审核

检查项:

1
2
1、警告!没有where条件,update会全表更新,禁止执行!!!
2、更新的行数小于10000行,可以由开发自助执行。否则请联系DBA执行!!!

6.png

7.png


防止where 1=1 绕过审核规则

update5.png

必须写真实的where条件才可以执行更新操作。

上线成功的SQL会记录到一张操作日志表里,并且会把binlog位置点记录下来,方便日后的回滚操作。

QQ图片20171223192835.png



  • create审核

检查项:

1
2
3
4
5
6
7
8
9
10
1、警告!表没有主键
2、警告!表主键应该是自增的,缺少AUTO_INCREMENT
3、提示: id 自增字段默认值为1,auto_increment=1
4、警告!表没有索引
5、警告!表中的索引数已经超过5个,索引是一把双刃剑,它可以提高查询效率但也会降低插入和更新的速度并占用磁盘空间
6、警告!表字段没有中文注释,COMMENT应该有默认值,如COMMENT  '姓名'
7、警告!表没有中文注释
8、警告!表缺少utf8字符集,否则会出现乱码
9、警告!表存储引擎应设置为InnoDB
10、警告!表应该为timestamp类型加默认系统当前时间

c1.png

c2.png

审核通过后,就可以上线了

c3.png

上线失败提示:

c4.png



  • alter审核

检查项:

1
2
3
1、警告!不支持create index语法,请更改为alter table add index语法。
2、警告!更改表结构要减少与数据库的交互次数,应改为,例alter table t1 add index IX_uid(uid),add index IX_name(name)
3、表记录小于100万行,可以由开发自助执行。否则表太大请联系DBA执行!

a1.png

a2.png

1
4、支持删除索引,但不支持删除字段

alter4.png

——————————————————————————————————————

数据库上线工单查询(只记录成功执行的SQL)

工单查询.png






















本文转自hcymysql51CTO博客,原文链接:http://blog.51cto.com/hcymysql/2053798 ,如需转载请自行联系原作者



相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
4月前
|
SQL 关系型数据库 MySQL
Linux系统部署Yearning SQL审核平台结合内网穿透实现公网访问
Linux系统部署Yearning SQL审核平台结合内网穿透实现公网访问
|
4月前
|
SQL 分布式计算 NoSQL
【SQL 审核查询平台】Archery使用介绍
【SQL 审核查询平台】Archery使用介绍
296 0
【SQL 审核查询平台】Archery使用介绍
|
4月前
|
SQL HIVE UED
【Hive SQL 每日一题】分析电商平台的用户行为和订单数据
作为一名数据分析师,你需要分析电商平台的用户行为和订单数据。你有三张表:`users`(用户信息),`orders`(订单信息)和`order_items`(订单商品信息)。任务包括计算用户总订单金额和数量,按月统计订单,找出最常购买的商品,找到平均每月最高订单金额和数量的用户,以及分析高消费用户群体的年龄和性别分布。通过SQL查询,你可以实现这些分析,例如使用`GROUP BY`、`JOIN`和窗口函数来排序和排名。
|
4月前
|
SQL 关系型数据库 Java
实时计算 Flink版操作报错之在阿里云DataHub平台上执行SQL查询GitHub新增star仓库Top 3时不显示结果,是什么原因
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
|
4月前
|
SQL 安全 数据库
如何防止删库跑路?使用NineData进行SQL变更审核!
在日常开发任务中,对核心库进行变更可能带来一系列风险,如删库跑路和数据泄露等。因此,在变更SQL之前,需要进行审核以确保变更合理、安全、规范。
718 1
|
4月前
|
SQL 数据挖掘 数据处理
「SQL面试题库」 No_65 用户购买平台
「SQL面试题库」 No_65 用户购买平台
|
4月前
|
SQL 消息中间件 关系型数据库
从0到1构建一个Flink SQL流式计算平台
从0到1构建一个Flink SQL流式计算平台
68 0
|
4月前
|
SQL Java 关系型数据库
【Spring Boot+Thymeleaf+MyBatis+mysql】实现电子商务平台实战(附源码)持续更新~~ 包括sql语句、java、html代码
【Spring Boot+Thymeleaf+MyBatis+mysql】实现电子商务平台实战(附源码)持续更新~~ 包括sql语句、java、html代码
95 0
|
4月前
|
SQL 存储 安全
CloudQuery一体化数据库SQL操作安全管控平台
CloudQuery一体化数据库SQL操作安全管控平台
300 0
|
10月前
|
SQL 算法 JavaScript
在线就能用的 SQL 练习平台(附SQL学习文档)
在线就能用的 SQL 练习平台(附SQL学习文档)
379 0
下一篇
云函数