QLExpress中function脚本导致内存泄漏

简介: 生产环境运行一段时间后变得卡顿,排查后发现GC日志中在频繁FullGC,内存分析发现有内存泄漏

背景

生产环境运行一段时间后变得卡顿,排查后发现GC日志中在频繁FullGC

内存分析

在这里插入图片描述在这里插入图片描述
在这里插入图片描述
好家伙,String对象数量上,checkUser 相关内容就占了 317万多个,还剩下36万多个其它String对象;

关于这个 parallelLockMap

java.lang.ClassLoader#parallelLockMap
loadClass的过程中,会根据要加载的类的类名去获取一把锁,并保存到这个parallelLockMap中
在这里插入图片描述在这里插入图片描述在这里插入图片描述

初步结论

类加载器:
org.springframework.boot.loader.LaunchedURLClassLoader
加载了很多类名为 checkUser 的临时类,导致 classLoader里面的parallelLockMap数据增多,且无法及时回收

代码排查

找到业务代码中checkUserOrg与checkUserType相关的代码,得知是使用了QLExpress,脚本中定义的function方法名;
关于QlExpress:https://github.com/alibaba/QLExpress

问题复现

已提交issues:https://github.com/alibaba/QLExpress/issues/281
版本:jdk1.8 + QLExpress 3.2.4
pom.xml

        <dependency>
            <groupId>com.alibaba</groupId>
            <artifactId>QLExpress</artifactId>
            <version>3.2.4</version>
        </dependency>

问题复现代码:

public static void main(String[] args) throws Exception {
   
   
        ExpressRunner RUNNER = new ExpressRunner();
        DefaultContext<String, Object> defaultContext = new DefaultContext<String, Object>();
        defaultContext.put("org", new Object());

        Object result = RUNNER.execute("if (method_1650070704185950208()) {\n  return 0;\n } \n function method_1650070704185950208(){return false;}",
                defaultContext, null, true, false);
        System.out.println(result);

        result = RUNNER.execute("if (method_1650070704185950208()) {\n  return 0;\n } \n function method_1650070704185950208(){return true;}",
                defaultContext, null, true, false);
        System.out.println(result);

        result = RUNNER.execute("if (method_1650070704185950208()) {\n  return 1;\n } \n function method_1650070704185950208(){return true;}",
                defaultContext, null, true, false);
        System.out.println(result);
    }

debug观察:
((ExtClassLoader)DemoTempApplication.class.getClassLoader().parent).parallelLockMap
会发现 “method_1650070704185950208” 作为类名被尝试加载过
在这里插入图片描述

查看qlExpress源码

确实是会根据function方法名加载一个类,从com.ql.util.express.ExpressRunner#execute 跟代码到:
com.ql.util.express.parse.ExpressPackage#getClassInner
在这里插入图片描述

结论

1、业务代码中这个function方法名带有序列号时,执行次数越多,classLoader里面的parallelLockMap数据就越多,且无法回收;
2、后面排查代码的过程中还发现了一出容易出现内存泄漏的地方,就是QL脚本编译后的缓存也会无限增加,因为他是将QL脚本作为key,将解析后的指令集作为value存入一个Map中;

总的来说,还是属于QL脚本使用不够规范,用了唯一序列号拼接function方法名,导致方法名不同,脚本也就不同,也导致classLoader与QL指令集缓存会爆满;

修复

与QLExpress项目开发人员取得了联系,并沟通后得知:
1、他这里面的loadClass,只是编译时候的一个尝试过程,比如你写一个Map,他就会尝试给你加载 java.util.Map,看看这个类是否已存在;
2、动态脚本,应该是可以枚举的,脚本模板最好能固定住,变化的是参数就行,否则就因为function方法名不一样,每次都要重复编译脚本,也会导致性能差;

然后与自己公司的相关开发人员沟通:
只需要保证当前脚本内方法名不重复即可,不同脚本之间的方法名不需要特意区分;
所以调整了业务代码,脚本内有多个方法定义时,改用循环内使用索引下标值进行拼接;

相关文章
|
Oracle 关系型数据库 Linux
解决在linux服务器上部署定时自动查找cpu,内存,磁盘使用量,并将查询结果写入数据库的脚本,只能手动运行实现插库操作
问题描述:将脚本名命名为mortior.sh(以下简称mo),手动执行脚本后查询数据库,表中有相应的信息,放入自动执行队列中,脚本被执行,但是查询数据库,并没有新增数据。
80 0
|
Shell 测试技术 Linux
通过shell脚本进行linux服务器的CPU和内存压测
通过shell脚本进行linux服务器的CPU和内存压测
333 0
|
2月前
|
安全 Linux Shell
Linux上执行内存中的脚本和程序
【9月更文挑战第3天】在 Linux 系统中,可以通过多种方式执行内存中的脚本和程序:一是使用 `eval` 命令直接执行内存中的脚本内容;二是利用管道将脚本内容传递给 `bash` 解释器执行;三是将编译好的程序复制到 `/dev/shm` 并执行。这些方法虽便捷,但也需谨慎操作以避免安全风险。
182 6
|
2月前
|
监控 Ubuntu API
Python脚本监控Ubuntu系统进程内存的实现方式
通过这种方法,我们可以很容易地监控Ubuntu系统中进程的内存使用情况,对于性能分析和资源管理具有很大的帮助。这只是 `psutil`库功能的冰山一角,`psutil`还能够提供更多关于系统和进程的详细信息,强烈推荐进一步探索这个强大的库。
44 1
|
3月前
|
Java 容器
【Azure Function App】Java Function在运行中遇见内存不足的错误
【Azure Function App】Java Function在运行中遇见内存不足的错误
|
3月前
|
Ubuntu Linux 测试技术
【Azure Function App】Python Function调用Powershell脚本在Azure上执行失败的案例
【Azure Function App】Python Function调用Powershell脚本在Azure上执行失败的案例
|
3月前
【Azure 应用服务】Azure Function 中运行Powershell 脚本,定位 -DefaultProfile 引发的错误
【Azure 应用服务】Azure Function 中运行Powershell 脚本,定位 -DefaultProfile 引发的错误
|
4月前
|
监控 Python
paramiko 模块 ---Python脚本监控当前系统的CPU、内存、根目录、IP地址等信息
paramiko 模块 ---Python脚本监控当前系统的CPU、内存、根目录、IP地址等信息
|
4月前
|
监控 Linux
Linux脚本之监控系统内存使用情况并给予警告
Linux脚本之监控系统内存使用情况并给予警告
|
6月前
|
存储 弹性计算 运维
调整虚拟机内存参数的 shell 脚本
【4月更文挑战第29天】
75 2