监控druid数据库连接池连接泄露的思路

本文涉及的产品
可观测可视化 Grafana 版,10个用户账号 1个月
可观测监控 Prometheus 版,每月50GB免费额度
任务调度 XXL-JOB 版免费试用,400 元额度,开发版规格
简介: 监控druid数据库连接池连接泄露的思路

背景介绍

在【一次druid数据库连接池连接泄露的排查分析】中介绍了druid 1.2.18之前的版本存在连接泄露的风险,同时为了发现新版本可能存在的连接泄露风险,需要能够及时发现连接泄露的问题,下面介绍一下解决思路。

解决思路

这里的连接泄露是指【一次druid数据库连接池连接泄露的排查分析】中由于druid bug导致没有关闭连接的场景。

主要思路如下:

  1. 获取DruidDataSource实例当前管理的连接数量
  2. 获取DruidDataSource实例对应数据库实例的网络连接数量
  3. 将【1】【2】数据监控起来,并设置报警规则:当【2】-【1】>【阈值】的时候报警出来。

获取DruidDataSource实例管理的连接数量

我们通过自定义实现DruidDataSourceStatLogger的方式获取连接池的数据。

public class DruidDataSourceMetricsLogger extends DruidDataSourceStatLoggerAdapter implements DruidDataSourceStatLogger {
  @Override
    public void log(DruidDataSourceStatValue statValue) {
        int activeCount = statValue.getActiveCount();
        int poolingCount = statValue.getPoolingCount();
    }
}

使用连接池中活跃连接的数量和连接池中pooling的连接数量,作为需要监控的连接数量。

获取DruidDataSource对应数据库实例的网络连接数量

继续完善DruidDataSourceMetricsLogger中的逻辑,思路如下:

  1. 通过jdbcUrl解析出数据库IP和端口
  2. 通过数据库IP和端口查询出网络连接数量

通过jdbcUrl解析出数据库IP和端口

@Override
public void log(DruidDataSourceStatValue statValue) {
  ... ...
  List<String> addresses = parse(statValue.getUrl());
}
private static List<String> parse(String url){
    List<String> ret = new LinkedList<>();
    int pos = url.indexOf('?');
    if (pos != -1) {
        url = url.substring(0, pos);
    }
    url = url.substring("jdbc:".length());
    pos = url.indexOf(":");
    String dbType = url.substring(0,pos);
    url = url.substring(pos);
    if(ORACLE.equals(dbType)){
        url = url.substring(7);
    }else {
        url = url.substring(3);
    }
    int slash = url.indexOf('/');
    url = url.substring(0, slash);
    String[] addresses = url.split(",");
    StringBuilder grep = new StringBuilder();
    for (String address : addresses) {
        String host = "127.0.0.1";
        String port = null;
        int portIdx = address.lastIndexOf(':');
        if (portIdx != -1 && address.lastIndexOf(']') < portIdx) {
            host = address.substring(0, portIdx);
            port = address.substring(portIdx + 1);
        }
        if(port == null){
            if(MYSQL.equals(dbType)){
                port = "3306";
            }else if(ORACLE.equals(dbType)){
                port = "1521";
            }
        }
        boolean valid = isValidAddress(host);
        if(!valid){
            try{
                host = InetAddress.getByName(host).getHostAddress();
                valid = true;
            }catch (Exception e){
            }
        }
        if(!valid){
            ret.clear();
            break;
        }
        ret.add(host + ":" + port);
    }
    return ret;
}

通过数据库IP和端口查询出网络连接数量

@Override
public void log(DruidDataSourceStatValue statValue) {
  ... ...
  List<String> addresses = parse(statValue.getUrl());
  int netCount = netCount(addresses);
}
private int netCount(List<String> addresses){
    if(addresses.isEmpty()){
        return 0;
    }
    StringBuilder filter = new StringBuilder();
    for(String address : addresses){
        if(filter.length() == 0){
            filter.append("dst ").append(address);
        }else {
            filter.append(" or dst ").append(address);
        }
    }
    String cmd = "ss -ant state established " + filter;
    List<String> ret = runNative(cmd);
    return (ret.size() == 0) ? 0 : (ret.size() - 1);
}
public static List<String> runNative(String cmdToRunWithArgs) {
    Process p;
    try {
        p = Runtime.getRuntime().exec(cmdToRunWithArgs);
    }  catch (Exception e) {
        return new ArrayList<>(0);
    }
    ArrayList<String> sa = new ArrayList<>();
    BufferedReader reader = new BufferedReader(new InputStreamReader(p.getInputStream()));
    try {
        String line;
        while ((line = reader.readLine()) != null) {
            sa.add(line);
        }
        p.waitFor();
    } catch (Exception ie) {
        return new ArrayList<>(0);
    } finally {
        try {
            reader.close();
        } catch (Exception e) {
        }
    }
    return sa;
}

将数据监控起来

通过上面已经获取到了需要监控的数据,收集监控数据的方式根据使用的监控系统不同而不同,我们是把监控指标数据存入文件,监控agent再将数据指标采集走。

public class DruidDataSourceMetricsLogger extends DruidDataSourceStatLoggerAdapter implements DruidDataSourceStatLogger {
    private final static Logger logger = LoggerFactory.getLogger("profile");
    private final static String ORACLE = "oracle";
    private final static String MYSQL = "mysql";
  @Override
    public void log(DruidDataSourceStatValue statValue) {
        int activeCount = statValue.getActiveCount();
        int poolingCount = statValue.getPoolingCount();
        List<String> addresses = parse(statValue.getUrl());
    int netCount = netCount(addresses);
        logger.info("{}|{}|{}",activeCount,poolingCount,netCount);
    }
}

使用方法

最后需要将上面的类配置到Spring容器中,步骤如下:

第一步

配置Druid指标Logger,在Spring中添加如下配置:

<bean id="druidDataSourceMetricsLogger" class="DruidDataSourceMetricsLogger"/>

第二步

在需要监控的DruidDatasource配置中添加如下配置:

<bean id="dataSource" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
    ... ...
    <property name="timeBetweenLogStatsMillis" value="60000" />
    <property name="statLogger" ref="druidDataSourceMetricsLogger" />
    ... ...
</bean>

总结

通过druid logger的方式获取druid指标,通过jdbcUrl最终获取到与数据库的网络连接数量,将以上指标数据放入监控系统并通过配置报警来及时发现连接泄露的问题。

注:由于网络连接是通过jdbcUrl中IP获取的,对于不仅仅是通过jdbcUrl中IP创建的网络连接是统计不十分准确。

目录
相关文章
|
2月前
|
SQL Java 关系型数据库
Java连接MySQL数据库环境设置指南
请注意,在实际部署时应该避免将敏感信息(如用户名和密码)硬编码在源码文件里面;应该使用配置文件或者环境变量等更为安全可靠地方式管理这些信息。此外,在处理大量数据时考虑使用PreparedStatement而不是Statement可以提高性能并防止SQL注入攻击;同时也要注意正确处理异常情况,并且确保所有打开过得资源都被正确关闭释放掉以防止内存泄漏等问题发生。
122 13
|
2月前
|
SQL 关系型数据库 MySQL
MySQL数据库连接过多(Too many connections)错误处理策略
综上所述,“Too many connections”错误处理策略涉及从具体参数配置到代码层面再到系统与架构设计全方位考量与改进。每项措施都需根据具体环境进行定制化调整,并且在执行任何变更前建议先行测试评估可能带来影响。
955 11
|
4月前
|
SQL XML Java
配置Spring框架以连接SQL Server数据库
最后,需要集成Spring配置到应用中,这通常在 `main`方法或者Spring Boot的应用配置类中通过加载XML配置或使用注解来实现。
428 0
|
7月前
|
Oracle 安全 关系型数据库
【Oracle】使用Navicat Premium连接Oracle数据库两种方法
以上就是两种使用Navicat Premium连接Oracle数据库的方法介绍,希望对你有所帮助!
1511 28
|
7月前
|
SQL 数据库连接 数据库
在C++的QT框架中实现SQLite数据库的连接与操作
以上就是在C++的QT框架中实现SQLite数据库的连接与操作的基本步骤。这些步骤包括创建数据库连接、执行SQL命令、处理查询结果和关闭数据库连接。在实际使用中,你可能需要根据具体的需求来修改这些代码。
457 14
|
2月前
|
缓存 关系型数据库 BI
使用MYSQL Report分析数据库性能(下)
使用MYSQL Report分析数据库性能
126 3
|
2月前
|
关系型数据库 MySQL 数据库
自建数据库如何迁移至RDS MySQL实例
数据库迁移是一项复杂且耗时的工程,需考虑数据安全、完整性及业务中断影响。使用阿里云数据传输服务DTS,可快速、平滑完成迁移任务,将应用停机时间降至分钟级。您还可通过全量备份自建数据库并恢复至RDS MySQL实例,实现间接迁移上云。
|
2月前
|
关系型数据库 MySQL 分布式数据库
阿里云PolarDB云原生数据库收费价格:MySQL和PostgreSQL详细介绍
阿里云PolarDB兼容MySQL、PostgreSQL及Oracle语法,支持集中式与分布式架构。标准版2核4G年费1116元起,企业版最高性能达4核16G,支持HTAP与多级高可用,广泛应用于金融、政务、互联网等领域,TCO成本降低50%。
下一篇
oss云网关配置