不改一行代码定位线上性能问题,可能吗?

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: 最近时运不佳,几乎天天被线上问题骚扰。前几天刚解决了一个HashSet的并发问题,周六又来了一个性能问题。大致的现象是:我们提供出去的一个OpenAPI反应时快时慢,快的时候几十毫秒,慢的时候几秒钟才响应。

最近时运不佳,几乎天天被线上问题骚扰。前几天刚解决了一个HashSet的并发问题,周六又来了一个性能问题。

大致的现象是:

我们提供出去的一个OpenAPI反应时快时慢,快的时候几十毫秒,慢的时候几秒钟才响应。

一、尝试解决

由于这种不是业务问题,不能直接定位。所以尝试在测试环境复现,但遗憾的是测试环境贼快。

没办法,只能硬着头皮上了。

中途有抱着侥幸心里让运维查看了Nginx里OpenAPI的响应时间,想把锅扔给网络。结果果然打脸了:Nginx里的日志表明响应时间确实有问题。

为了清晰的了解这个问题,我简单梳理了一下调用过程:

image

整个的流程算是比较常见的分层架构:

客户端请求到Nginx;

Nginx负载了后端的web服务;

web服务通过RPC调用后端的Service服务。

1、日志大法

我们首先想到的是打日志,在可能会慢的方法或接口处记录处理时间,来判断哪里有问题。

但通过刚才的调用链来说,这个请求流程不短。加日志涉及的改动较多,而且万一加漏了还有可能定位不到问题;还有就是改动代码之后,还会涉及到发版上线的问题。

2、工具分析

所以最好的方式就是不改动一行代码把这个问题分析出来。这时就需要一个agent工具了。我们选用了阿里以前开源的Tprofile来使用。

只需要在启动参数中加入-javaagent:/xx/tprofiler.jar即可监控你想要监控的方法耗时,并且可以给你输出报告,非常方便,对代码没有任何侵入性,同时性能影响也较小。

二、工具使用

下面来简单展示下如何使用这个工具:

首先第一步自然是clone源码然后打包,可以克隆我修改过的源码。

因为这个项目阿里多年没有维护了,还残留一些bug,我在它原有的基础上修复了个影响使用的bug,同时做了一些优化。

执行以下脚本即可:

git clone https://github.com/crossoverJie/TProfiler mvn assembly:assembly

到这里之后会在项目的TProfiler/pkg/TProfiler/lib/tprofiler-1.0.1.jar中生成我们要使用的jar包。

接下来只需要将这个jar包配置到启动参数中,同时再配置一个配置文件路径即可。

这个配置文件我copy官方的解释:

image

最终的启动参数如下:

-javaagent:/TProfiler/lib/tprofiler-1.0.1.jar -Dprofile.properties=/TProfiler/profile.properties

为了模拟排查接口响应慢的问题,我用cicada实现了一个HTTP接口。其中调用了两个耗时方法:

image

这样当我启动应用时,Tprofile就会在我配置的目录记录它所收集的方法信息。

我访问如下接口几次后,它就会把每个方法的明细响应写入tprofile.log:

http://127.0.0.1:5688/cicada-example/demoAction?name=test&id=10 

image

由左到右每列分别代表为:

线程ID、方法栈深度、方法编号、耗时(毫秒)

但tmethod.log还是空的。这时我们只需要执行这个命令,即可把最新的方法采样信息刷到tmethod.log文件中。


java -cp /TProfiler/tprofiler.jar 

com.taobao.profile.client.TProfilerClient 127.0.0.1 50000 flushmethod 

flushmethod success

其实就是访问了Tprofile暴露出的一个服务,它会读取、解析tprofile.log,同时写入tmethod.log。其中的端口就是配置文件中的port。

再打开tmethod.log :

image

其中会记录方法的信息:

第一行数字为方法的编号,可以通过这个编号去tprofile.log(明细)中查询每次的耗时情况;

行末的数字则是这个方法在源码中最后一行的行号。

其实大部分的性能分析都是统计某个方法的平均耗时。所以还需要执行下面的命令,通过tmethod.log tprofile.log来生成每个方法的平均耗时:

java -cp /TProfiler/tprofiler.jar 

com.taobao.profile.analysis.ProfilerLogAnalysis tprofiler.log 

tmethod.log topmethod.log topobject.log 

print result success

打开topmethod.log就是所有方法的平均耗时:

image

4为请求次数;

205为平均耗时;

818则为总耗时。

和实际情况是相符的。

方法的明细耗时

这时可能还会有其他需求;比如说我想查询某个方法所有的明细耗时怎么办呢?

官方没有提供,但也是可以的,只是要麻烦一点。

比如我想查看selectDB()的耗时明细,首先得知道这个方法的编号,在tmethod.log中可以看查到:

2 top/crossoverjie/cicada/example/action/DemoAction:selectDB:84

编号为2。

之前我们就知道tprofile.log记录的是明细,所以通过下面的命令即可查看:

grep 2 tprofiler.log

image

通过第三列方法编号为2的来查看每次执行的明细。

但这样的方式显然不够友好,需要人为来过滤干扰,步骤也多。所以我也准备加上这样一个功能,只需要传入一个方法名称即可查询采集到的所有方法耗时明细。

三、总结

回到之前的问题,线上通过这个工具分析,我们得到了如下结果:

有些方法确实执行时快时慢,但都是和数据库相关的,由于目前数据库压力较大,准备在接下来进行冷热数据分离,以及分库分表;

在第一步操作还没实施之前,将部分写数据库的操作改为异步,减小响应时间;

考虑接入pinpoint这样的APM工具。

其实类似于Tprofile的工具挺多的,找到适合自己的就好。

我们在还没有使用类似于pinpoint这样的分布式跟踪工具之前,应该会大量依赖于这个工具,所以后续说不定也会做一些定制,比如增加一些可视化界面等,可以提高排查效率。

原文发布时间为:2019-1-9
本文作者:crossoverJie
本文来自云栖社区合作伙伴“ DBAplus社群 ”,了解相关信息可以关注“ dbaplus”微信公众号

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
2月前
|
测试技术 开发工具 git
写了BUG还想跑——闲鱼异常日志问题自动追踪-定位-分发机制
为了高效地发现、定位和解决预发问题,闲鱼团队研发了一套异常日志问题自动追踪-定位-分发机制。这套机制通过自动化手段,实现了异常日志的定时扫描、精准定位和自动分发,显著降低了开发和测试的成本,提高了问题解决的效率。
131 15
写了BUG还想跑——闲鱼异常日志问题自动追踪-定位-分发机制
|
5月前
|
SQL 关系型数据库 MySQL
(十八)MySQL排查篇:该如何定位并解决线上突发的Bug与疑难杂症?
前面《MySQL优化篇》、《SQL优化篇》两章中,聊到了关于数据库性能优化的话题,而本文则再来聊一聊关于MySQL线上排查方面的话题。线上排查、性能优化等内容是面试过程中的“常客”,而对于线上遇到的“疑难杂症”,需要通过理性的思维去分析问题、排查问题、定位问题,最后再着手解决问题,同时,如果解决掉所遇到的问题或瓶颈后,也可以在能力范围之内尝试最优解以及适当考虑拓展性。
293 3
|
7月前
|
监控 Java 测试技术
五步定位性能瓶颈
五步定位性能瓶颈
88 1
|
运维 监控 前端开发
记一次线上 bug 的排查分析过程及总结
记一次线上 bug 的排查分析过程及总结
记一次线上 bug 的排查分析过程及总结
|
消息中间件 运维 监控
线上踩坑记:项目中一次OOM的分析定位排查过程!
线上踩坑记:项目中一次OOM的分析定位排查过程!
|
SQL BI 数据库
记一次bug分析定位过程
其实很多时候,我们在测试过程中发现的很多bug,并不是由于开发人员编码能力不好,或者粗心大意造成,而是在项目开发实施过程中,没有遵循一些必要的项目流程,没有充分认识到质量的重要性;如果能做好这方面的工作,关注流程,而不是喊口号,人人重视质量,人人为结果负责,那么,会有很多问题、不只是bug,都将“被扼杀在摇篮里”......
记一次bug分析定位过程
|
SQL Java 数据库连接
线上运行的项目突然变得很卡如何排查?
线上运行的项目突然变得很卡如何排查?
|
算法 Java 微服务
为什么我建议线上高并发量的日志输出的时候不能带有代码位置(上)
为什么我建议线上高并发量的日志输出的时候不能带有代码位置(上)
为什么我建议线上高并发量的日志输出的时候不能带有代码位置(上)
|
Java 测试技术 微服务
为什么我建议线上高并发量的日志输出的时候不能带有代码位置(下)
为什么我建议线上高并发量的日志输出的时候不能带有代码位置(下)
为什么我建议线上高并发量的日志输出的时候不能带有代码位置(下)
|
运维 监控 数据可视化
不改一行代码定位线上性能问题
性能问题。 大致的现象是: 我们提供出去的一个 OpenAPI 反应时快时慢,快的时候几十毫秒,慢的时候几秒钟才响应。