如何做好SQL质量监控

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: 为满足用户对SQL分析行为的监控和质量管理需求,我们推出了用户级SQL质量监控功能。此功能集成于CloudLens for SLS中,可轻松开启以监控和管理所有SLS相关资源(包括采集接入、读写操作、作业、配额、SQL、计费等)。

背景
Cloud Native
在 SLS 中,用户可以通过 SQL 对日志数据(结构化、半结构化、无结构化)进行查询和分析。随着用户对 SQL 使用程度的不断加深,越来越多的用户希望了解自己使用 SQL 分析时的服务反馈(如请求量、成功率、数据量等等),以便对数据和分析行为进行精细管理或优化治理。


“现在我这个 Project 的 SQL 并发是多少?”

“奇怪,我 SQL 请求并不多,为什么会有这么多 SQL 请求,是哪个业务线(Logstore)用的?”

“我想了解我在 SLS 中使用 SQL 分析的整体情况,请问有什么监控数据或日志可以查看?


这些都是来自 SLS 真实用户的声音,可以看出用户对于自身 SQL 分析行为的监控和质量管理有着较强的需求。


为了提升用户 SLS SQL 的使用体验,我们提供了用户级 SQL 质量监控功能,希望能够帮助用户直观、清晰地了解自身使用 SQL 的情况。


通过 CloudLens 开启使用

Cloud Native


我们将此功能集成于 CloudLens for SLS中,用户可以轻松开启该服务,并对 SQL 质量进行监控和管理。除此之外,CloudLens for SLS 还帮助您监控和管理所有 SLS 相关资源(包括采集接入、读写操作、作业、配额、SQL、计费等等),以提升您对日志服务资产的管理效率、快速了解其消耗情况。


1.png


服务开启后按照引导开通全局日志,数据同步可能需要一定时间(首次开启大约 10min),请耐心等待,随后在「报表中心 / SQL 质量监控」中即可查看完整 SQL 质量监控。

2.png


功能总览
Cloud Native


总体上,我们为用户提供了 5 个维度的 SQL 质量监控:

SQL 健康分和使用报告主要展示用户整体使用 SQL 的健康度和总体情况(包含一些很有意思的指标)。

SQL 服务指标主要描述用户使用 SQL 时的整体服务情况,以便用户对服务现状有整体了

SQL 运行指标主要描述 SQL 内部运行时的指标,以便用户了解自身 SQL 的实际处理表现和吞吐。

SQL Pattern主要刻画用户提交的 SQL 范式(根据 SLS 原生 sql parse 解析并去除参数差异),以便用户识别出具有相同特征的分析业务,做相关管理和监控。

SQL 质量优化和建议主要描述 SQL 请求的服务质量,包括用户侧错误,给出相关建议,推荐用户进行优化改善。


关于指标的说明:

所有指标以分钟为粒度,根据以下 4 个基础字段(Category 除外)作为分组维度,聚合分析计算得出。

所有指标目前不包含 JDBC 接入和 ScheduledSQL 的流量请求。

所有指标为当前状态,随产品形态和系统发展,未来可能增减指标,以帮助用户更明确的反馈服务情况。

所有指标的解释权归 SLS 所有。


SQL 健康分和使用报告

Cloud Native


通过「SQL 健康分」,反馈用户使用 SLS SQL 服务的总体质量,进而驱动用户去做服务治理和质量优化。

UserStory:很多时候,用户在使用 SQL 的过程中,常常由于 AK 失效/授权过期/索引未建立 / SQL 语法错误等各种客观原因,而发起了大量的无效 SQL 请求,不仅占用了 SQL 请求并发配额,对于用户自身服务器资源也是无效的消耗。通过 SQL 健康分,用户可以一目了然了解自己使用 SLS SQL 的健康情况,并进行针对的优化或者治理。

3.png


同时,我们提供了一份用户最近的「SQL 使用报告」。在这里,用户可以从全局视角看到当前账户下使用 SQL 的活跃 Project、活跃 Logstore、SQL 请求量、常用请求代理、SQL 整体表现(包括延时、数据量、数据行数、返回行数、预估并发量等)

4.png



SQL 服务指标


Cloud Native


通过「SQL 服务指标」,用户可以了解自己使用 SQL 时更详细的服务质量,包括每分钟的请求 PV 数、平均延时、请求代理分布以及延时四分位的分布水平。


通过这些时序图的趋势展示,用户可以非常直观地了解自己在哪些时段出现过 SQL 请求量飙升或延时毛刺,以便辅助分析业务问题。将时间线拉长到 1 天,用户也可以了解到自己业务高峰一般处在 1 天中的什么时刻,延时毛刺是否与请求量相关等等。

5.png


SQL 运行明细指标
Cloud Native


通过「SQL 运行明细指标」,用户可以更进一步地了解当前 SQL 执行情况,包括并发请求(预估)、各阶段平均延时、每分钟的处理数据量和处理行数,以及细化到 Logstore 的 SQL 热力分布情况等等。


6.png

关于并发请求(预估)和各阶段平均延时的说明


首先,回答大家一个问题:为什么要有 SQL 并发控制?


SLS SQL 执行涉及到分布式计算,计算过程消耗较多算力资源,而我们的服务是面向云上多租用户的,为了保证资源的公平使用,我们为每个租户设置了合理的并发额度。


每个用户会配置 1 个并发队列和 1 个排队队列,当用户提交一条 SQL 时,会进行并发控制,若并发队列有空余,则直接运行;若并发队列满,则排队等待;若排队队列再满,则并发超限报错。


7.png


UserStory:有些用户当并发请求过高时,查询延时会有明显增高,这又是怎么回事呢?
其实,了解了上面的并发控制模型,就不难理解这一点:当一条 SQL 提交时,如果并发队列满,该 SQL 将在排队队列中等待,直到并发队列中最短的一条 SQL 执行完才能腾出空位来,这个时间间隔称为“QueuedTime(排队时间)”,所以,当出现排队时,SQL 端到端的总延时可能会增高,这其中包含了队列中等待在途 Query 完成的排队时间。


8.png


因此,为了让大家在日常使用过程中,更合理地使用并发,以及遇到并发超限时进行合理地优化处理,我们提供了并发请求(预估)和各阶段平均延时指标以供用户参考。


SQL Pattern 分析

Cloud Native


我们提供「SQL Pattern分析」视图,将 SQL 中的变量参数进行了泛化,提炼出 SQL 语义特征,用户可以据此了解哪些特征 SQL 请求占比特多、执行特慢、处理量特大等等。UserStory:很多时候,用户提交的 SQL 是通过程序化方式以模板+参数的方式渲染生成最终 SQL 语句,有可能多条不同的 SQL 对应的其实是同一个业务,为了让用户能更加洞悉业务特征,快速识别出存在问题或异常的业务 SQL。


String sql = String.format("* | SELECT sum(price) from log where category = %s", category_id);// request sql to sls...


9.png


质量优化和建议
Cloud Native


用户可以通过「质量优化和建议」了解到自己使用 SQL 的整体请求成功/失败占比、错误码的分布,我们还会给出具体的优化建议。


UserStory:很多时候,由于企业组织结构不同,在 SLS 上的资源可能分布在不同的团队,有可能运维部门负责资源的创建(如 Project/Logstore/索引),而数据部门负责数据的使用(如发起 SQL 请求),业务上的快速迭代和变化常常会导致某个 Logstore 已不存在、AK 失效、权限不足等,而数据部门却可能还一直在持续地发起大量的 SQL 请求,造成客户大量无效资源的消耗。这种情况下,各部门往往缺乏一个全局视角了解资源的整体使用情况和错误占比,我们通过优化建议可以让用户从全局视角了解到最需要优化和治理的方面,帮助提效。


10.png

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
目录
相关文章
|
3月前
|
SQL 监控 关系型数据库
实际应用中监控和诊断SQL语句执行情况的具体案例
实际应用中监控和诊断SQL语句执行情况的具体案例
|
3月前
|
SQL 监控 安全
sql server数据库监控
SQL Server数据库监控是收集、聚合和监控SQL服务器的各种指标的过程,旨在维护SQL数据库的运行状况和可用性,优化性能,并预防或快速响应错误。以下是一些关于SQL Server数据库监控的核心
|
1月前
|
SQL 监控 Java
SQL质量监控
为帮助用户管理和优化SLS中的SQL查询,提供了用户级SQL质量监控功能,集成于CloudLens for SLS。开启服务后约10分钟,用户可在「报表中心 / SQL质量监控」中查看数据。 该功能包括: SQL健康分和使用报告:反馈总体质量。 服务指标:如请求PV数、平均延时等,用于业务分析。 运行指标:如并发请求、处理数据量等。 SQL Pattern分析:提炼SQL语义特征,识别业务特征。 质量优化建议:基于请求成功率和错误码分布给出改进建议。 监控功能以分钟为单位聚合分析数据,不包括JDBC接入和ScheduledSQL流量,并可能随产品发展而调整。这些功能有助于用户全面掌握SQL
SQL质量监控
|
2月前
|
存储 监控 数据库
局域网监控软件中的Transact-SQL事务管理
**T-SQL事务管理**确保数据的原子性、一致性、隔离性和持久性。使用`BEGIN TRANSACTION`, `COMMIT`和`ROLLBACK`来控制事务。例如,在更新账户余额的事务中,如果所有操作成功则提交,否则回滚。错误处理通过`TRY-CATCH`结构实现,嵌套事务允许在事务内开启新的事务。通过触发器和存储过程,如`DataChangeTrigger`和`SubmitDataToWebsite`,可以自动化数据提交到网站,当表数据变动时触发。
29 5
|
3月前
|
SQL 监控 安全
代码审计-PHP原生开发篇&SQL注入&数据库监控&正则搜索&文件定位&静态分析
代码审计-PHP原生开发篇&SQL注入&数据库监控&正则搜索&文件定位&静态分析
|
3月前
|
SQL 监控 数据库管理
在实际应用中监控和诊断SQL语句的执行情况
在实际应用中监控和诊断SQL语句的执行情况
|
3月前
|
SQL 缓存 监控
sql server数据库监控
SQL Server数据库监控是收集、聚合和观察SQL服务器的各项指标的过程,旨在维护SQL数据库的运行状况和可用性。由于SQL数据库服务器的问题经常被识别为导致延迟等问题的原因,因此,对其进行监控显
|
4月前
|
SQL 监控 数据库
数据库管理与电脑监控软件:SQL代码优化与实践
本文探讨了如何优化数据库管理和使用电脑监控软件以提升效率。通过SQL代码优化,如使用索引和调整查询语句,能有效提高数据库性能。同时,合理设计数据库结构,如数据表划分和规范化,也能增强管理效率。此外,利用Python脚本自动化收集系统性能数据,并实时提交至网站,可实现对电脑监控的实时性和有效性。这些方法能提升信息系统稳定性和可靠性,满足用户需求。
134 0
|
SQL 存储 监控
FAQ系列 | 监控平均SQL响应时长
FAQ系列 | 监控平均SQL响应时长
|
2月前
|
SQL 存储 监控
SQL Server的并行实施如何优化?
【7月更文挑战第23天】SQL Server的并行实施如何优化?
52 13
下一篇
DDNS