最佳实践—如何选择应用端链接池-阿里云开发者社区

开发者社区> -技术小能手-> 正文

最佳实践—如何选择应用端链接池

简介: 背景 当应用程序连接PolarDB-X实例执行操作时,从PolarDB-X实例的角度看,会有如下两种类型的连接: 前端连接:由应用程序建立的,到PolarDB-X计算节点(CN)中逻辑库的连接。 后端连接:由PolarDB-X计算节点建立的,到后端数据节点(DN)中物理库的连接。
+关注继续查看

背景

当应用程序连接PolarDB-X实例执行操作时,从PolarDB-X实例的角度看,会有如下两种类型的连接:

  • 前端连接:由应用程序建立的,到PolarDB-X计算节点(CN)中逻辑库的连接。
  • 后端连接:由PolarDB-X计算节点建立的,到后端数据节点(DN)中物理库的连接。4..png其中后端连接由CN管理,通过私有协议实现TCP连接与后端连接解绑,对用户透明。前端连接由用户创建和管理,本文主要讨论前端连接管理的最佳实践。


说明 为了简化描述,下文中的 “连接” 均代指 “前端连接”。

QPS/RT与连接数的关系

每秒查询请求数 (Query Per Second,QPS) 和响应时间 (Response Time,RT) 是衡量应用对数据库性能需求的基本指标,QPS代表应用并发访问数据库的需求,RT代表单条语句的处理性能。RT的高低与执行的SQL是否复杂和扫描的数据量紧密相关,OLTP系统中查询RT较低,通常以毫秒为单位。

PolarDB-X兼容MySQL协议,请求在单个连接上串行执行,不同连接上的请求可以并行执行,由此得到以下公式:

  • 单个连接的QPS上限 = 1000/RT
  • 应用访问单个CN的QPS上限 = 单个连接的QPS上限×连接数

按照平均RT为5ms计算,单个连接的QPS上限为200,假设应用预估需要的QPS为5000,则至少需要建立250个连接。

连接数限制

PolarDB-X中前端连接仅与网络连接绑定,连接的数量理论上仅受限于CN可用的内存大小和网络连接数。但在实际的场景中,应用创建连接是为了执行查询,连接数需要与执行线程的数量相匹配才能达到最佳性能。5..png

其中后端连接由CN管理,通过私有协议实现TCP连接与后端连接解绑,对用户透明。前端连接由用户创建和管理,本文主要讨论前端连接管理的最佳实践。


说明 为了简化描述,下文中的 “连接” 均代指 “前端连接”。

QPS/RT与连接数的关系

每秒查询请求数 (Query Per Second,QPS) 和响应时间 (Response Time,RT) 是衡量应用对数据库性能需求的基本指标,QPS代表应用并发访问数据库的需求,RT代表单条语句的处理性能。RT的高低与执行的SQL是否复杂和扫描的数据量紧密相关,OLTP系统中查询RT较低,通常以毫秒为单位。

PolarDB-X兼容MySQL协议,请求在单个连接上串行执行,不同连接上的请求可以并行执行,由此得到以下公式:

  • 单个连接的QPS上限 = 1000/RT
  • 应用访问单个CN的QPS上限 = 单个连接的QPS上限×连接数

按照平均RT为5ms计算,单个连接的QPS上限为200,假设应用预估需要的QPS为5000,则至少需要建立250个连接。

连接数限制

PolarDB-X中前端连接仅与网络连接绑定,连接的数量理论上仅受限于CN可用的内存大小和网络连接数。但在实际的场景中,应用创建连接是为了执行查询,连接数需要与执行线程的数量相匹配才能达到最佳性能。6..png

  • 连接池模式(TCP 长连接)效率更高,但部分场景下对分布式负载均衡不友好,可能导致CN负载不均匀
    1. 突发创建连接,导致分布不均如果应用存在突发创建大量连接的情况,负载均衡设备无法及时刷新统计信息,可能出现部分CN上连接较多,结合连接池化,最终导致部分CN压力高于其他CN,影响系统总体性能。
    2. 负载均衡探活异常,导致分布不均负载均衡通过主动探活来判断CN节点是否正常,当探活出现偶发异常时,可能导致部分CN上连接较少,结合连接池化,最终导致部分CN压力低于其他CN,影响系统总提性能。
  • Druid连接池增加了phyTimeoutMillis/phyMaxUseCount参数,定期(例如执行10000次或者10分钟)刷新连接池中的连接,可以在解决上述问题的同时保持性能基本不变,建议默认添加这两个配置。
  • 应用线程数与连接池应用程序访问数据库的一种常见模式,是在应用程序中创建多个线程,每个线程获取一个到数据库的连接并执行查询。为了减少创建/释放线程的开销,通常会使用“线程池”来管理线程,线程池的一个重要参数是“最大线程数”,需要根据实际情况调整。
    理想情况下,查询的RT波动不大,可以应用上文介绍的公式,根据RT计算出合理的连接池大小,并根按照“每个线程一个数据库连接”的思路确定最大线程数。实际场景中,查询RT受到热点、锁、数据倾斜等多种因素的影响,可能出现突发RT增长,甚至部分连接失去响应。如果完全按照理想情况连接池/线程池,可能由于部分慢查询耗尽连接池/线程池,导致应用失去响应,影响关联系统。因此,建议按照“理想情况”的1.5到2倍来设置最大连接数/线程数。

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
Java的内存模型
java的后端服务器开发中"高效并发"是我们经常会碰到的,而要写出高效的代码需要更多的积累与实践。而一些基础的内容是往这个方向发展的基石。所以我们就来介绍下
3 0
【2020 Java基础快速学习路线】写了很久,这是一份最适合普通大众、非科班的路线
【2020 Java基础快速学习路线】写了很久,这是一份最适合普通大众、非科班的路线
3 0
教妹学Java(八):初识Java变量
教妹学Java(八):初识Java变量
3 0
云迁移SaaS如何入驻阿里云工具应用市场
HyperMotion SaaS是一款基于云原生理念开发的云迁移和云灾备的SaaS平台,2020年7月,HyperMotion迁移版本正式入驻阿里云工具应用市场。用户登陆阿里云后,可以直接以SaaS模式使用产品,而无须再到云市场启动实例的方式。由于与阿里云的用户体系、RAM系统、支付系统彻底打通,用户在使用感受上更加便捷。
5 0
想学习,无方法,十年老码农告诉你方法
想学习,无方法,十年老码农告诉你方法
4 0
Oracle最新的Sql笔试题及答案
Oracle最新的Sql笔试题及答案
3 0
别翻了,Lambda 表达式入门,看这篇就够了(1)
别翻了,Lambda 表达式入门,看这篇就够了
3 0
volatile关键字
volatile关键字是我们经常在面试过程中碰到的一个问题,本文来介绍下这个关键字 原则性,可见性,有序性
6 0
JVM中的类加载器
把类加载阶段中的"通过一个类的全限定名来获取描述此类的二进制字节流"这个动作放到Java虚拟机外部去实现,以便让应用程序自己决定如何去获取所需要的类,实现这个动作的代码模块称为类加载器。
3 0
教妹学Java(七):究竟什么是JVM?
教妹学Java(七):究竟什么是JVM?
3 0
1137
文章
0
问答
来源圈子
更多
文章排行榜
最热
最新
相关电子书
更多
文娱运维技术
立即下载
《SaaS模式云原生数据仓库应用场景实践》
立即下载
《看见新力量:二》电子书
立即下载