mysql连接池和redis连接池

本文涉及的产品
云数据库 Tair(兼容Redis),内存型 2GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
简介: mysql连接池和redis连接池

池化技术

池化技术能够减少资源对象的创建次数,提高程序的响应性能,特别是在高并发下这种提高更加明显。 使用池化技术缓存的资源对象有如下共同特点:

1. 对象创建时间长;

2. 对象创建需要大量资源;

3. 对象创建后可被重复使用

像常见的线程池、内存池、连接池、对象池都具有以上的共同特点。

什么是数据库连接池

定义:数据库连接池(Connection pooling)是程序启动时建立足够的数据库连接,并将这些连接组成 一个连接池,由程序动态地对池中的连接进行申请,使用,释放。

大白话:创建数据库连接是一个很耗时的操作,也容易对数据库造成安全隐患。所以,在程序初始化的 时候,集中创建多个数据库连接,并把他们集中管理,供程序使用,可以保证较快的数据库读写速度, 还更加安全可靠。

这里讲的数据库,不单只是指Mysql,也同样适用于Redis。

为什么使用数据库连接池

资源复用

由于数据库连接得到复用,避免了频繁的创建、释放连接引起的性能开销,在减少系统消耗的基础 上,另一方面也增进了系统运行环境的平稳性(减少内存碎片以及数据库临时进程/线程的数量)。

更快的系统响应速度

数据库连接池在初始化过程中,往往已经创建了若干数据库连接置于池中备用。此时连接的初始化工作均已完成。对于业务请求处理而言,直接利用现有可用连接,避免了从数据库连接初始化和释放过程的开销,从而缩减了系统整体响应时间。

统一的连接管理,避免数据库连接泄露

在较为完备的数据库连接池实现中,可根据预先的连接占用超时设定,强制收回被占用连接。从而避免了常规数据库连接操作中可能出现的资源泄露。

不使用连接池

1. TCP建立连接的三次握手(客户端与MySQL服务器的连接基于TCP协议)

2. MySQL认证的三次握手

3. 真正的SQL执行

4. MySQL的关闭

5. TCP的四次握手关闭

可以看到,为了执行一条SQL,需要进行TCP三次握手,Mysql认证、Mysql关闭、TCP四次挥手等其他 操作,执行SQL操作在所有的操作占比非常低。

优点:实现简单 省了连接池的设计。

缺点:每一次发起SQL操作都经历TCP建立连接、数据库用户身份验证、数据库用户登出、TCP断开连接

       网络IO较多

       带宽利用率低

       QPS较低

       应用频繁低创建连接和关闭连接,导致临时对象较多,带来更多的内存碎片

       在关闭连接后,会出现大量TIME_WAIT 的TCP状态(在2个MSL之后关闭)

使用连接池

第一次访问的时候,需要建立连接。 但是之后的访问,均会复用之前创建的连接,直接执行SQL语句。

优点:

       1. 降低了网络开销

       2. 连接复用,有效减少连接数。

       3. 提升性能,避免频繁的新建连接。新建连接的开销比较大

       4. 没有TIME_WAIT状态的问题

缺点:

       1. 设计较为复杂

长连接和连接池的区别

       长连接是一些驱动、驱动框架、ORM工具的特性,由驱动来保持连接句柄的打开,以便后续的数据库操作可以重用连接,从而减少数据库的连接开销。

       而连接池是应用服务器的组件,它可以通过参数来配置连接数、连接检测、连接的生命周期等。 连接池内的连接,其实就是长连接。

数据库连接池运行机制

1. 从连接池获取或创建可用连接;

2. 使用完毕之后,把连接返回给连接池;

3. 在系统关闭前,断开所有连接并释放连接占用的系统资源;

连接池和线程池的关系

连接池和线程池的区别:

       线程池:主动调用任务。当任务队列不为空的时候从队列取任务取执行。

       比如去银行办理业务,窗口柜员是线程,多个窗口组成了线程池,柜员从排号队列叫号执行。

       连接池:被动被任务使用。当某任务需要操作数据库时,只要从连接池中取出一个连接对象,当任务使用完该连接对象后,将该连接对象放回到连接池中。如果连接池中没有连接对象可以用,那么该任务就必须等待。

       比如去银行用笔填单,笔是连接对象,我们要用笔的时候去取,用完了还回去。

连接池和线程池设置数量的关系:

       一般线程池线程数量和连接池连接对象数量一致;

       一般线程执行任务完毕的时候归还连接对象;

连接池设计要点

使用连接池需要预先建立数据库连接。

线程池设计思路:

1. 连接到数据库,涉及到数据库ip、端口、用户名、密码、数据库名字等;

       1. 连接的操作,每个连接对象都是独立的连接通道,它们是独立的   (长连接)

       2. 配置最小连接数和最大连接数

2. 需要一个队列管理他的连接,比如使用list;

3. 获取连接对象:

4. 归还连接对象;

5. 连接池的名字

连接池设计逻辑

构造函数

初始化

请求获取连接

归还连接

析构连接池

连接池名

mysql连接重连机制

设置启用(当发现连接断开时的)自动重连

my_bool reconnect = true;
mysql_options(m_mysql, MYSQL_OPT_RECONNECT, &reconnect); // 配合mysql_ping实现自动重连
mysql_options(m_mysql, MYSQL_SET_CHARSET_NAME, "utf8mb4");  // utf8mb4和utf8区别
// mysql utf8只支持3个字节的unico , utf8mb4才是支持4个字节的unico

检测连接是否正常

int STDCALL mysql_ping(MYSQL *mysql);

描述: 检查与服务端的连接是否正常。连接断开时,如果自动重新连接功能未被禁用,则尝试重新连接服务器。该函数可被客户端用来检测闲置许久以后,与服务端的连接是否关闭,如有需要,则重新连接。 返回值: 连接正常,返回0;如有错误发生,则返回非0值。返回非0值并不意味着服务器本身关闭掉,也有可能是网络原因导致网络不通。

redis重连机制

1. 使用之前检测连接是否可用

2. 使用过程中出现连接异常则释放异常

3. 下一次使用该连接的时候如果发现连接不可用则重新初始化

redis的重连机制设计和mysql有区别。

mysqlpool测试

本地虚拟机测试 Ubuntu 16.04 cpu逻辑核数4 插入1000条数据

理论:io密集型线程池线程数量 = 2*cpu核数 +( 1/2) = 2 * 4 + (1/2) = 9 , 10个线程

为什么这里在32~64个线程之间效率是最高?

阿里云服务器 5.7.33-0ubuntu0.16.04.1 cpu逻辑核数1

redispool测试

单线程 本地虚拟机测试 Ubuntu 16.04 cpu逻辑核数4

多线程 本地虚拟机测试 Ubuntu 16.04 cpu逻辑核数4

连接池连接设置数量

经验公式

连接数 = ((核心数 * 2) + 有效磁盘数) 按照这个公式,即是说你的服务器 CPU 是 4核 i7 的,那连接池连接数大小应该为 ((4*2)+1)=9

这里只是一个经验公式。还要和线程池数量以及具体业务结合在一起。来自:About Pool Sizing · brettwooldridge/HikariCP Wiki (github.com)(HikariCP 是一个高性能的 JDBC 连接池组件,号称性能最好的后起之秀)

CPU总核数 = 物理CPU个数 * 每颗物理CPU的核数

总逻辑CPU数 = 物理CPU个数 * 每颗物理CPU的核数 * 超线程数

查看CPU信息(型号)
[root@AAA ~]# cat /proc/cpuinfo | grep name | cut -f2 -d: | uniq -c
4 Intel(R) Core(TM) i7-10750H CPU @ 2.60GHz
# 查看物理CPU个数
[root@AAA ~]# cat /proc/cpuinfo| grep "physical id"| sort| uniq| wc -l
2
# 查看每个物理CPU中core的个数(即核数)
[root@AAA ~]# cat /proc/cpuinfo| grep "cpu cores"| uniq
cpu cores : 2
# 查看逻辑CPU的个数
[root@AAA ~]# cat /proc/cpuinfo| grep "processor"| wc -l
4

IO密集型的任务

如果任务整体上是一个IO密集型的任务。在处理一个请求的过程中(处理一个任务),总共耗时 100+5=105ms,而其中只有5ms是用于计算操作的(消耗cpu),另外的100ms等待io响应,CPU利用 率为5/(100+5)。

使用线程池是为了尽量提高CPU的利用率,减少对CPU资源的浪费,假设以100%的CPU利用率来说,要 达到100%的CPU利用率,对于一个CPU就要设置其利用率的倒数个数的线程数,也即 1/(5/(100+5))=21,4个CPU的话就乘以4。那么算下来的话,就是……84,这个时候线程池要设置84个线程数,然后连接池也是设置为84个连接。

MySQL提示“too many connections“的解决方法

首先登录mysql终端,输入show variables like max_connections,查看最大连接数。

默认连接数量这里只有151,可以根据自己需要修改。比如可以临时设置为1000

set GLOBAL max_connections=1000;

连接数长期生效参考地址:mysql数据库Too many connections - 八戒vs - 博客园 (cnblogs.com) 修改长期生效的方式需要 重启mysql

sudo service mysql restart

Table 'performance_schema.session_variables' doesn't exist

(21条消息) 解决mysql获取连接报Table ‘performance_schema.session_variables’ doesn’t exist错误_I Just code的博客-CSDN博客

druid连接池

可以研究下druid连接池的设计理念,扩展对连接池的理解。

目录
相关文章
|
3月前
|
关系型数据库 应用服务中间件 nginx
Docker一键安装中间件(RocketMq、Nginx、MySql、Minio、Jenkins、Redis)
本系列脚本提供RocketMQ、Nginx、MySQL、MinIO、Jenkins和Redis的Docker一键安装与配置方案,适用于快速部署微服务基础环境。
|
5月前
|
缓存 NoSQL 关系型数据库
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
|
7天前
|
NoSQL 算法 Redis
【Docker】(3)学习Docker中 镜像与容器数据卷、映射关系!手把手带你安装 MySql主从同步 和 Redis三主三从集群!并且进行主从切换与扩容操作,还有分析 哈希分区 等知识点!
Union文件系统(UnionFS)是一种**分层、轻量级并且高性能的文件系统**,它支持对文件系统的修改作为一次提交来一层层的叠加,同时可以将不同目录挂载到同一个虚拟文件系统下(unite several directories into a single virtual filesystem) Union 文件系统是 Docker 镜像的基础。 镜像可以通过分层来进行继承,基于基础镜像(没有父镜像),可以制作各种具体的应用镜像。
114 5
|
7月前
|
缓存 NoSQL 关系型数据库
Redis和Mysql如何保证数据⼀致?
1. 先更新Mysql,再更新Redis,如果更新Redis失败,可能仍然不⼀致 2. 先删除Redis缓存数据,再更新Mysql,再次查询的时候在将数据添加到缓存中 这种⽅案能解决1 ⽅案的问题,但是在⾼并发下性能较低,⽽且仍然会出现数据不⼀致的问题,⽐如线程1删除了 Redis缓存数据,正在更新Mysql,此时另外⼀个查询再查询,那么就会把Mysql中⽼数据⼜查到 Redis中 1. 使用MQ异步同步, 保证数据的最终一致性 我们项目中会根据业务情况 , 使用不同的方案来解决Redis和Mysql的一致性问题 : 1. 对于一些一致性要求不高的场景 , 不做处理例如 : 用户行为数据 ,
|
29天前
|
缓存 关系型数据库 BI
使用MYSQL Report分析数据库性能(下)
使用MYSQL Report分析数据库性能
68 3
|
1月前
|
关系型数据库 MySQL 数据库
自建数据库如何迁移至RDS MySQL实例
数据库迁移是一项复杂且耗时的工程,需考虑数据安全、完整性及业务中断影响。使用阿里云数据传输服务DTS,可快速、平滑完成迁移任务,将应用停机时间降至分钟级。您还可通过全量备份自建数据库并恢复至RDS MySQL实例,实现间接迁移上云。
|
2月前
|
存储 运维 关系型数据库
从MySQL到云数据库,数据库迁移真的有必要吗?
本文探讨了企业在业务增长背景下,是否应从 MySQL 迁移至云数据库的决策问题。分析了 MySQL 的优势与瓶颈,对比了云数据库在存储计算分离、自动化运维、多负载支持等方面的优势,并提出判断迁移必要性的五个关键问题及实施路径,帮助企业理性决策并落地迁移方案。
|
23天前
|
关系型数据库 MySQL 分布式数据库
阿里云PolarDB云原生数据库收费价格:MySQL和PostgreSQL详细介绍
阿里云PolarDB兼容MySQL、PostgreSQL及Oracle语法,支持集中式与分布式架构。标准版2核4G年费1116元起,企业版最高性能达4核16G,支持HTAP与多级高可用,广泛应用于金融、政务、互联网等领域,TCO成本降低50%。
|
24天前
|
关系型数据库 MySQL 数据库
阿里云数据库RDS费用价格:MySQL、SQL Server、PostgreSQL和MariaDB引擎收费标准
阿里云RDS数据库支持MySQL、SQL Server、PostgreSQL、MariaDB,多种引擎优惠上线!MySQL倚天版88元/年,SQL Server 2核4G仅299元/年,PostgreSQL 227元/年起。高可用、可弹性伸缩,安全稳定。详情见官网活动页。
|
24天前
|
关系型数据库 分布式数据库 数据库
阿里云数据库收费价格:MySQL、PostgreSQL、SQL Server和MariaDB引擎费用整理
阿里云数据库提供多种类型,包括关系型与NoSQL,主流如PolarDB、RDS MySQL/PostgreSQL、Redis等。价格低至21元/月起,支持按需付费与优惠套餐,适用于各类应用场景。

推荐镜像

更多