【Docker】基于实例项目的集群部署(六)数据库负载均衡 | Haproxy分发机制 | 监控负载状况

本文涉及的产品
RDS MySQL DuckDB 分析主实例,基础系列 4核8GB
RDS Agent(兼容OpenClaw),2核4GB
RDS MySQL DuckDB 分析主实例,集群系列 4核8GB
简介: 【Docker】基于实例项目的集群部署(六)数据库负载均衡 | Haproxy分发机制 | 监控负载状况


从上一篇中我们知道,PXC集群中任何一个节点都是可以读写的,但是,一旦PXC集群上线后,我们不能把所有的数据库请求全部发送给一个数据库节点,而是这个PXC集群中的数据库节点都应该参与到请求的处理。那么负载均衡的工作,就是让每个请求均匀的发送给每个数据库节点。

负载均衡的必要性

  • 虽然搭建了集群,但是不使用数据库负载均衡,单节点处理所有请求,会造成负载高、性能差等问题。如图:
  • 使用Haproxy做负载均衡,请求被均匀分发给每个节点,单节点负载低,性能好。如下图:

    你可能会问:为什么不用Nginx作负载均衡?
    原因:每个中间件的选择都是需要进行考量的,如下图所示,Nginx对TCP/IP协议的支持的比较晚,而Haproxy是一个老牌的中间件产品,虽然不支持插件,但其成熟性使得它很可靠。
    下面,我们列出负载均衡中间件的对比图:

安装Haproxy镜像

Docker仓库下载即可:docker pull haproxy

haproxy是这个镜像的缩写。

现在,我们下载好了haproxy镜像,但是别急,我们先把Haproxy的配置文件(haproxy.cfg)创建好,再去创建容器

创建Haproxy配置文件

touch /home/soft/haproxy.cfg

首先现在宿主机上通过touch指令创建一个配置文件haproxy.cfg,然后通过 目录映射技术把soft目录映射到haproxy容器里面。这样,资Haproxy容器就可以找到这个配置文件,然后启动Haproxy的服务,自然而然就会有配置文件。

关于详细的配置文件编写,请参考:https://zhangge.net/5125.html

我们重点来看下数据库负载均衡这块:

解释:

  • listen proxy-mysql :定义一个配置,名称叫 proxy-mysql
  • bing 0.0.0.0:3306 开放的端口为3306,0.0.0.0表示任何IP地址都能访问3306端口
  • mode tcp 表示3306支持的协议是tcp,例如有应用程序向3306端口发起数据库请求,它就会把请求转发给具体的PXC数据库实例。

同时,Haproxy自带了转发算法:

因为PXC容器里跑的数据库硬件配置都是相同的,所以不需要使用权重算法,只有当主机的硬件配置不同时,才需要采用权重算法。如,主机硬件配置高的,可以把它的权重设置的高些,这样它可以处理更多的数据库请求;硬件配置低的数据库节点,就分配低一些的权重。

balance roundrobin 这里采用的是轮询算法

  • 心跳检测:

    option mysql-check user haproxy //给数据库创建一个叫haproxy的账户,密码为空,不分配任何权限。Haproxy通过这个账户登录到Mysql上,发送心跳检测。这样它就知道Mysql是在运行,还是宕机。
    连接到数据库上 要发送心跳检测,那么要提供一个Haproxy能登录的账号user,后面跟的haproxy是你在PXC数据库上创建的用户,用户名可以随意取,如你叫abc,那么就是 user abc。

再往下,配置要进行负载均衡的数据库节点:

server MySQL_1(自定义名字) 172.18.0.2:3306(数据库节点的地址,容器的端口是3306)check(发送心跳检测,可以具体设置每隔几毫秒检测一次,具体设置可以在百度上搜下) weight 1(权重。如果采用的是轮询算法,即使写上权重,也不会生效)maxconn 2000 (最大连接数,这里为2000)

接下来,如果你已经配置好了Haproxy配置文件,我们就可以创建Haproxy容器:

这里给出一份参考的配置文件:

# 启动容器时使用目录映射技术使容器读取该配置文件
# $ touch /home/haproxy/haproxy.cfg
# haproxy.cfg
global
  #工作目录
  chroot /usr/local/etc/haproxy
  #日志文件,使用rsyslog服务中local5日志设备(/var/log/local5),等级info
  log 127.0.0.1 local5 info
  #守护进程运行
  daemon
defaults
  log global
  mode  http
  #日志格式
  option  httplog
  #日志中不记录负载均衡的心跳检测记录
  option  dontlognull
    #连接超时(毫秒)
  timeout connect 5000
    #客户端超时(毫秒)
  timeout client  50000
  #服务器超时(毫秒)
    timeout server  50000
#监控界面 
listen  admin_stats
  #监控界面的访问的IP和端口
  bind  0.0.0.0:8888
  #访问协议
    mode        http
  #URI相对地址
    stats uri   /dbs
  #统计报告格式
    stats realm     Global\ statistics
  #登陆帐户信息
    stats auth  admin:abc123456
#数据库负载均衡
listen  proxy-mysql
  #访问的IP和端口
  bind  0.0.0.0:3306  
    #网络协议
  mode  tcp
  #负载均衡算法(轮询算法)
  #轮询算法:roundrobin
  #权重算法:static-rr
  #最少连接算法:leastconn
  #请求源IP算法:source 
    balance  roundrobin
  #日志格式
    option  tcplog
  #在MySQL中创建一个没有权限的haproxy用户,密码为空。Haproxy使用这个账户对MySQL数据库心跳检测
    option  mysql-check user haproxy
    server  MySQL_1 172.18.0.2:3306 check weight 1 maxconn 2000  
    server  MySQL_2 172.18.0.3:3306 check weight 1 maxconn 2000  
  server  MySQL_3 172.18.0.4:3306 check weight 1 maxconn 2000 
  server  MySQL_4 172.18.0.5:3306 check weight 1 maxconn 2000
  server  MySQL_5 172.18.0.6:3306 check weight 1 maxconn 2000
  #使用keepalive检测死链
    option  tcpka  

创建Haproxy容器

docker run -it -d
-p 4001:888 -p 4002:3306
-v /home/soft/haproxy:/usr/local/etc/haproxy
--name haproxy --privileged --net=net1
haproxy
haproxy -f /usr/local/etc/haproxy/haproxy.cfg

解释:

  • Haproxy提供了一个后台监控的画面(能查看数据库负载均衡的状况),这个画面在配置文件里定义的就是8888端口(可以在Haproxy的配置文件中查看)
  • -v /home/soft/happroxy:/usr/local/etc/haproxy 目录映射,把宿主机的haproxy映射到容器的/usr/local/etc/haproxy目录上。
  • --name h1 --privileged --net=net1 给容器起一个名字h1,权限,net1网段(跟数据库实例在同一个网段上)
  • 启动haproxy: haproxy -f /usr/local/etc/haproxy/haproxy.cfg

实际操作:

  • 首先,在服务器上新建一个soft/haproxy文件夹,并把haproxy.cfg配置文件放到haproxy文件夹下:

  • 然后使用xshell 进入到/home/soft/haproxy文件夹下:
  • 然后,创建Haproxy容器,使用指令:
docker run -it -d -p 4001:8888 -p 4002:3306 -v /home/soft/haproxy:/usr/local/etc/haproxy --name h1 --privileged --net=net1 --ip 172.18.0.2(注:选择一个适合的子网地址) haproxy

我是根据我这边的网段进行设置的,如图:

执行指令,运行后:

  • 由于创建的容器在后台运行,我必须要进入到后台的容器,执行指令:
    docker exec -it (注:有交互界面) h1(注:容器名字) bash(注:交互指令类型)

    此时,我们就进入到刚才启动的Haproxy容器里面。
  • 执行启动Haproxy的指令:
    haproxy -f(表示加载配置文件) /usr/local/etc/haproxy/haproxy.cfg(配置文件的路径)

这样,我们就启动了haproxy。一会我们切换到浏览器上查看监控画面,我们就会知道数据库的负载均衡是否已经运行起来了。

现在我们需要在Mysql数据库上创建一个名叫 haproxy的账号,因为Haproxy中间件要用这个账号登录数据库,然后发送心跳检测。

  • 在浏览器中输入:宿主机地址:监控端口/dbs ,然后回车,如下图我的宿主机IP是这样的:(你要输入你自己宿主机的地址

    注:这些可以在haproxy.cfg配置文件中定义:

  • 输入用户名和密码后,我们就可以进入到监控画面:

  • 从上图监控画面中我们可以看到,里面有5个数据库节点。我们把node1 关掉,再看看:docker stop node1
  • 最后我们在主机上新建一个Haproxy数据库,并连接到CentOS中的宿主机IP,端口号也是宿主机映射的端口:

  • 然后,我们可以在H1中对test表进行增删操作,此时H1会把这条操作转发给D1至D5的其中一个节点(实际上H1是不存储任何真实数据的,它只是进行分发操作),这个节点就会进行更新,然后由于这个节点具备PXC同步机制,它会把这次操作同步给其他4个节点。

由此可见,这样就完成了负载均衡的操作。

下一篇中,我们将探索负载均衡高可用方案

参考

深入理解负载均衡的点点滴滴



相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
相关文章
|
负载均衡 算法 关系型数据库
大数据大厂之MySQL数据库课程设计:揭秘MySQL集群架构负载均衡核心算法:从理论到Java代码实战,让你的数据库性能飙升!
本文聚焦 MySQL 集群架构中的负载均衡算法,阐述其重要性。详细介绍轮询、加权轮询、最少连接、加权最少连接、随机、源地址哈希等常用算法,分析各自优缺点及适用场景。并提供 Java 语言代码实现示例,助力直观理解。文章结构清晰,语言通俗易懂,对理解和应用负载均衡算法具有实用价值和参考价值。
大数据大厂之MySQL数据库课程设计:揭秘MySQL集群架构负载均衡核心算法:从理论到Java代码实战,让你的数据库性能飙升!
|
数据采集 存储 Docker
深入理解Docker:为你的爬虫项目提供隔离环境
本教程介绍如何使用Docker构建隔离环境,运行Python爬虫项目,采集小红书视频页面的简介和评论。主要内容包括: 1. **Docker隔离环境**:通过Docker容器化爬虫,确保环境独立、易于部署。 2. **代理IP技术**:利用亿牛云爬虫代理突破反爬限制。 3. **Cookie与User-Agent设置**:伪装请求头,模拟真实用户访问。 4. **多线程采集**:提高数据采集效率。 前置知识要求:Python基础、Docker基本操作及HTML解析(可选)。教程还涵盖常见错误解决方法和延伸练习,帮助你优化爬虫代码并避免陷阱。
458 7
深入理解Docker:为你的爬虫项目提供隔离环境
|
负载均衡 算法 关系型数据库
大数据新视界--大数据大厂之MySQL数据库课程设计:MySQL集群架构负载均衡故障排除与解决方案
本文深入探讨 MySQL 集群架构负载均衡的常见故障及排除方法。涵盖请求分配不均、节点无法响应、负载均衡器故障等现象,介绍多种负载均衡算法及故障排除步骤,包括检查负载均衡器状态、调整算法、诊断修复节点故障等。还阐述了预防措施与确保系统稳定性的方法,如定期监控维护、备份恢复策略、团队协作与知识管理等。为确保 MySQL 数据库系统高可用性提供全面指导。
|
Docker Python 容器
Docker——阿里云服务器使用Docker部署python项目全程小记
本文记录了我在阿里云服务器上使用Docker部署python项目(flask为例)的全过程,在这里记录和分享一下,希望可以给大家提供一些参考。
1849 1
|
负载均衡 网络协议 数据库
选择适合自己的数据库多实例负载均衡技术
【10月更文挑战第23天】选择适合自己的数据库多实例负载均衡技术需要全面考虑多种因素。通过深入的分析和评估,结合自身的实际情况,能够做出明智的决策,为数据库系统的高效运行提供有力保障。
419 61
|
关系型数据库 应用服务中间件 PHP
实战~如何组织一个多容器项目docker-compose
本文介绍了如何使用Docker搭建Nginx、PHP和MySQL的环境。首先启动Nginx容器并查看IP地址,接着启动Alpine容器并安装curl测试连通性。通过`--link`方式或`docker-compose`配置文件实现服务间的通信。最后展示了Nginx配置文件和PHP代码示例,验证了各服务的正常运行。
457 3
实战~如何组织一个多容器项目docker-compose
|
关系型数据库 MySQL Java
【Docker最新版教程】一文带你快速入门Docker常见用法,实现容器编排和自动化部署上线项目
Docker快速入门到项目部署,MySQL部署+Nginx部署+docker自定义镜像+docker网络+DockerCompose项目实战一文搞定!
2299 10
|
负载均衡 前端开发 应用服务中间件
负载均衡指南:Nginx与HAProxy的配置与优化
负载均衡指南:Nginx与HAProxy的配置与优化
960 3
|
缓存 负载均衡 监控
数据库多实例的负载均衡技术深入
【10月更文挑战第23天】数据库多实例负载均衡技术是确保数据库系统高效运行的重要手段。通过合理选择负载均衡策略、实时监控实例状态、不断优化调整,能够实现资源的最优分配和系统性能的提升。在实际应用中,需要根据具体情况灵活运用各种负载均衡技术,并结合其他相关技术,以满足不断变化的业务需求。
|
关系型数据库 MySQL Linux
基于阿里云服务器Linux系统安装Docker完整图文教程(附部署开源项目)
基于阿里云服务器Linux系统安装Docker完整图文教程(附部署开源项目)
3072 3

热门文章

最新文章