监控druid数据库连接池连接泄露的思路

本文涉及的产品
Serverless 应用引擎 SAE,800核*时 1600GiB*时
可观测可视化 Grafana 版,10个用户账号 1个月
性能测试 PTS,5000VUM额度
简介: 监控druid数据库连接池连接泄露的思路

背景介绍

在【一次druid数据库连接池连接泄露的排查分析】中介绍了druid 1.2.18之前的版本存在连接泄露的风险,同时为了发现新版本可能存在的连接泄露风险,需要能够及时发现连接泄露的问题,下面介绍一下解决思路。

解决思路

这里的连接泄露是指【一次druid数据库连接池连接泄露的排查分析】中由于druid bug导致没有关闭连接的场景。

主要思路如下:

  1. 获取DruidDataSource实例当前管理的连接数量
  2. 获取DruidDataSource实例对应数据库实例的网络连接数量
  3. 将【1】【2】数据监控起来,并设置报警规则:当【2】-【1】>【阈值】的时候报警出来。

获取DruidDataSource实例管理的连接数量

我们通过自定义实现DruidDataSourceStatLogger的方式获取连接池的数据。

public class DruidDataSourceMetricsLogger extends DruidDataSourceStatLoggerAdapter implements DruidDataSourceStatLogger {
  @Override
    public void log(DruidDataSourceStatValue statValue) {
        int activeCount = statValue.getActiveCount();
        int poolingCount = statValue.getPoolingCount();
    }
}

使用连接池中活跃连接的数量和连接池中pooling的连接数量,作为需要监控的连接数量。

获取DruidDataSource对应数据库实例的网络连接数量

继续完善DruidDataSourceMetricsLogger中的逻辑,思路如下:

  1. 通过jdbcUrl解析出数据库IP和端口
  2. 通过数据库IP和端口查询出网络连接数量

通过jdbcUrl解析出数据库IP和端口

@Override
public void log(DruidDataSourceStatValue statValue) {
  ... ...
  List<String> addresses = parse(statValue.getUrl());
}
private static List<String> parse(String url){
    List<String> ret = new LinkedList<>();
    int pos = url.indexOf('?');
    if (pos != -1) {
        url = url.substring(0, pos);
    }
    url = url.substring("jdbc:".length());
    pos = url.indexOf(":");
    String dbType = url.substring(0,pos);
    url = url.substring(pos);
    if(ORACLE.equals(dbType)){
        url = url.substring(7);
    }else {
        url = url.substring(3);
    }
    int slash = url.indexOf('/');
    url = url.substring(0, slash);
    String[] addresses = url.split(",");
    StringBuilder grep = new StringBuilder();
    for (String address : addresses) {
        String host = "127.0.0.1";
        String port = null;
        int portIdx = address.lastIndexOf(':');
        if (portIdx != -1 && address.lastIndexOf(']') < portIdx) {
            host = address.substring(0, portIdx);
            port = address.substring(portIdx + 1);
        }
        if(port == null){
            if(MYSQL.equals(dbType)){
                port = "3306";
            }else if(ORACLE.equals(dbType)){
                port = "1521";
            }
        }
        boolean valid = isValidAddress(host);
        if(!valid){
            try{
                host = InetAddress.getByName(host).getHostAddress();
                valid = true;
            }catch (Exception e){
            }
        }
        if(!valid){
            ret.clear();
            break;
        }
        ret.add(host + ":" + port);
    }
    return ret;
}

通过数据库IP和端口查询出网络连接数量

@Override
public void log(DruidDataSourceStatValue statValue) {
  ... ...
  List<String> addresses = parse(statValue.getUrl());
  int netCount = netCount(addresses);
}
private int netCount(List<String> addresses){
    if(addresses.isEmpty()){
        return 0;
    }
    StringBuilder filter = new StringBuilder();
    for(String address : addresses){
        if(filter.length() == 0){
            filter.append("dst ").append(address);
        }else {
            filter.append(" or dst ").append(address);
        }
    }
    String cmd = "ss -ant state established " + filter;
    List<String> ret = runNative(cmd);
    return (ret.size() == 0) ? 0 : (ret.size() - 1);
}
public static List<String> runNative(String cmdToRunWithArgs) {
    Process p;
    try {
        p = Runtime.getRuntime().exec(cmdToRunWithArgs);
    }  catch (Exception e) {
        return new ArrayList<>(0);
    }
    ArrayList<String> sa = new ArrayList<>();
    BufferedReader reader = new BufferedReader(new InputStreamReader(p.getInputStream()));
    try {
        String line;
        while ((line = reader.readLine()) != null) {
            sa.add(line);
        }
        p.waitFor();
    } catch (Exception ie) {
        return new ArrayList<>(0);
    } finally {
        try {
            reader.close();
        } catch (Exception e) {
        }
    }
    return sa;
}

将数据监控起来

通过上面已经获取到了需要监控的数据,收集监控数据的方式根据使用的监控系统不同而不同,我们是把监控指标数据存入文件,监控agent再将数据指标采集走。

public class DruidDataSourceMetricsLogger extends DruidDataSourceStatLoggerAdapter implements DruidDataSourceStatLogger {
    private final static Logger logger = LoggerFactory.getLogger("profile");
    private final static String ORACLE = "oracle";
    private final static String MYSQL = "mysql";
  @Override
    public void log(DruidDataSourceStatValue statValue) {
        int activeCount = statValue.getActiveCount();
        int poolingCount = statValue.getPoolingCount();
        List<String> addresses = parse(statValue.getUrl());
    int netCount = netCount(addresses);
        logger.info("{}|{}|{}",activeCount,poolingCount,netCount);
    }
}

使用方法

最后需要将上面的类配置到Spring容器中,步骤如下:

第一步

配置Druid指标Logger,在Spring中添加如下配置:

<bean id="druidDataSourceMetricsLogger" class="DruidDataSourceMetricsLogger"/>

第二步

在需要监控的DruidDatasource配置中添加如下配置:

<bean id="dataSource" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
    ... ...
    <property name="timeBetweenLogStatsMillis" value="60000" />
    <property name="statLogger" ref="druidDataSourceMetricsLogger" />
    ... ...
</bean>

总结

通过druid logger的方式获取druid指标,通过jdbcUrl最终获取到与数据库的网络连接数量,将以上指标数据放入监控系统并通过配置报警来及时发现连接泄露的问题。

注:由于网络连接是通过jdbcUrl中IP获取的,对于不仅仅是通过jdbcUrl中IP创建的网络连接是统计不十分准确。

目录
相关文章
|
1月前
|
存储 Go API
使用GoFrame连接和操作TDengine时序数据库
通过使用GoFrame框架和TDengine Go驱动,我们可以方便地连接和操作TDengine时序数据库。无论是插入、查询还是分析时序数据,都可以通过简单的API调用来实现。GoFrame提供了强大的Web开发功能,结合TDengine的高性能时序数据存储和查询能力,可以构建高效、可扩展的时序数据应用。
|
29天前
|
NoSQL 关系型数据库 PHP
php连接数据库
要使用PHP连接PolarDB或MongoDB数据库,需先准备连接信息,并编写相应代码。对于PolarDB,需设置主机地址、端口、数据库名及凭据,使用`pg_connect`函数建立连接;而对于MongoDB副本集,需安装MongoDB PHP驱动,通过`MongoDB\Client`连接指定的副本集实例。请确保替换示例代码中的占位符为实际值,并正确配置副本集名称和主机信息。更多详细信息与示例代码,请参考相关链接。
134 72
|
8天前
|
关系型数据库 MySQL 数据库
6-2|测试连接数据库的命令
6-2|测试连接数据库的命令
|
8天前
|
SQL 关系型数据库 MySQL
ThinkPHP6 连接使用数据库,增删改查,find,select,save,insert,insertAll,insertGetId,delete,update方法的用法
本文介绍了在ThinkPHP6框架中如何连接和使用数据库进行增删改查操作。内容包括配置数据库连接信息、使用Db类进行原生MySQL查询、find方法查询单个数据、select方法查询数据集、save方法添加数据、insertAll方法批量添加数据、insertGetId方法添加数据并返回自增主键、delete方法删除数据和update方法更新数据。此外,还说明了如何通过数据库配置文件进行数据库连接信息的配置,并强调了在使用Db类时需要先将其引入。
ThinkPHP6 连接使用数据库,增删改查,find,select,save,insert,insertAll,insertGetId,delete,update方法的用法
|
8天前
|
SQL 关系型数据库 数据库连接
php连接数据库之PDO,PDO的简单使用和预定义占位符的使用以及PDOStatement对象的使用,占位符的不同形式,bindValue和bindParam绑定预定义占位符参数的区别
本文介绍了PHP中PDO(PHP Data Objects)扩展的基本概念和使用方法。内容包括PDO类和PDOStatement类的介绍,PDO的简单使用,预定义占位符的使用方法,以及PDOStatement对象的使用。文章还讨论了绑定预定义占位符参数的不同形式,即bindValue和bindParam的区别。通过具体示例,展示了如何使用PDO进行数据库连接、数据查询、数据插入等操作。
php连接数据库之PDO,PDO的简单使用和预定义占位符的使用以及PDOStatement对象的使用,占位符的不同形式,bindValue和bindParam绑定预定义占位符参数的区别
|
8天前
|
SQL 关系型数据库 MySQL
php学习笔记-连接操作mysq数据库(基础)-day08
本文介绍了PHP中连接操作MySQL数据库的常用函数,包括连接服务器、设置字符集、关闭连接、选择数据库、结果集释放、获取影响行数以及遍历结果集等操作。通过书籍查询的实例演示了如何使用这些函数进行数据库操作,并提供了一个PHP操纵MySQL数据库的模板。
php学习笔记-连接操作mysq数据库(基础)-day08
|
11天前
|
SQL JavaScript 关系型数据库
Node服务连接Mysql数据库
本文介绍了如何在Node服务中连接MySQL数据库,并实现心跳包连接机制。
25 0
Node服务连接Mysql数据库
|
18天前
|
NoSQL 关系型数据库 MySQL
微服务架构下的数据库选择:MySQL、PostgreSQL 还是 NoSQL?
在微服务架构中,数据库的选择至关重要。不同类型的数据库适用于不同的需求和场景。在本文章中,我们将深入探讨传统的关系型数据库(如 MySQL 和 PostgreSQL)与现代 NoSQL 数据库的优劣势,并分析在微服务架构下的最佳实践。
|
20天前
|
存储 SQL 关系型数据库
使用MySQL Workbench进行数据库备份
【9月更文挑战第13天】以下是使用MySQL Workbench进行数据库备份的步骤:启动软件后,通过“Database”菜单中的“管理连接”选项配置并选择要备份的数据库。随后,选择“数据导出”,确认导出的数据库及格式(推荐SQL格式),设置存储路径,点击“开始导出”。完成后,可在指定路径找到备份文件,建议定期备份并存储于安全位置。
160 11
|
15天前
|
存储 SQL 关系型数据库
MySQL的安装&数据库的简单操作
本文介绍了数据库的基本概念及MySQL的安装配置。首先解释了数据库、数据库管理系统和SQL的概念,接着详细描述了MySQL的安装步骤及其全局配置文件my.ini的调整方法。文章还介绍了如何启动MySQL服务,包括配置环境变量和使用命令行的方法。最后,详细说明了数据库的各种操作,如创建、选择和删除数据库的SQL语句,并提供了实际操作示例。
58 13
MySQL的安装&数据库的简单操作
下一篇
无影云桌面