AI 助理
文档备案控制台
开发者社区 数据库 文章 正文

mysql+mmm+proxy实现mysql读写分离及HA

2017-11-14 1728
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
RDS AI 助手，专业版
RDS Agent（兼容OpenClaw），2核4GB
RDS MySQL DuckDB 分析主实例，基础系列 4核8GB
简介：
Master-Slave 的数据库机构解决了很多问题，特别是read/write比较高的web2.0应用：
1 、写操作全部在Master结点执行，并由Slave数据库结点定时(默认60s)读取Master的bin-log
2 、将众多的用户读请求分散到更多的数据库节点，从而减轻了单点的压力
 
这是对Replication的最基本陈述，这种模式的在系统Scale-out方案中很有引力(如有必要，数据可以先进行Sharding，再使用replication)。
 
它的缺点是：
1 、Slave实时性的保障，对于实时性很高的场合可能需要做一些处理
2 、高可用性问题，Master就是那个致命点( SPOF:Single point of failure)
 
本文主要讨论的是如何解决第2个缺点。
 
DB 的设计对大规模、高负载的系统是极其重要的。高可用性( High availability) 在重要的系统(critical System)是需要架构师事先考虑的。存在 SPOF:Single point of failure 的设计在重要系统中是危险的。
 
 
Master-Master Replication
1 、使用两个MySQL数据库db01,db02，互为Master和Slave，即：
一边db01作为db02的master，一旦有数据写向db01时，db02定时从db01更新
另一边db02也作为db01的master，一旦有数据写向db02时，db01也定时从db02获得更新
( 这不会导致循环，MySQL Slave默认不会记录Master同步过来的变化)
 
2 、但从AppServer的角度来说，同时只有一个结点db01扮演Master，另外一个结点db02扮演Slave，不能同时两个结点扮演Master。即AppSever总是把write操作分配某个数据库(db01)，除非db01 failed，被切换。
 
3 、如果扮演Slave的数据库结点db02 Failed了：
a) 此时appServer要能够把所有的read,write分配给db01，read操作不再指向db02
b) 一旦db02恢复过来后，继续充当Slave角色，并告诉AppServer可以将read分配给它了
 
4 、如果扮演Master的数据库结点db01 Failed了
a) 此时appServer要能够把所有的写操作从db01切换分配给db02，也就是切换Master由db02充当
b)db01 恢复过来后，充当Slave的角色，Master由db02继续扮演
 
难点：
3 、4要如何自动进行？
 
Master-Master with n Slaves Replication

 
这比上一个还要复杂，即：
当一个Master Fail时，所有的Slave不再从原来失败的那个Master(db01)获取更新日志，而应该“自动”切换到最新充当Master角色的数据库db02。
 
MMM ，a greate project!
MMM 的基本信息请参考它的网站(见后"参考资料")
MMM 有3个重要的器件:
1 、mmmd_mon - monitoring script which does all monitoring work and makes all decisions about roles moving and so on.
2 、mmmd_agent - remote servers management agent script, whichprovides monitoring node with simple set of remote services to makeservers management easier, more flexible abd highly portable.
3 、mmm_control - simple script dedicated to management of the mmmd_mon processes by commands.
 
每一个MySQL服务器器结点需要运行mmmd_agent，同时在另外的一个机器上(可以是独立的一台机器，也可以是和AppServer共享同一个服务器)运行mmmd_mon。形成1 * mmmd_mon + n * mmmd_agent的部署架构。
 
MMM 利用了虚拟IP的技术：1个网卡可以同时使用多个IP。
( 所以使用MMM时，需要2*n+1个IP，n为mysql数据库结点个数，包括master,slave)
 
当有数据库结点fail时，mmmd_mon检测不到mmmd_agent的心跳或者对应的MySQL服务器的状态，mmmd_mon将进行决定，并下指令给某个正常的数据库结点的mmmd_agent，使得该mmmd_agent“篡位”使用(注)刚才fail的那个结点的虚拟IP，使得虚拟IP实际从指向fail的那个机器自动转为此时的这个正常机器。
注：据Qieqie猜测是将获得的虚拟IP设置给网卡，也只能这样了，改天测试验证一下。
 
repeat:  MMM 对MySQL Master-Slave Replication绝对是一个很有益的补充!
 
整体架构的原理：
Webclient  数据请求至proxy—proxy进行读写分发－转至mmm机制－在检测存活的机器进行读与写操作。在此之前这些机器与为master/slave.
本文测试环境如下：
主机名
IP
Port
App
目录
备注
Node1
192.168.1.2
3306
mysql
/var/lib/mysql
数据库服务器1
Node2
192.168.1.3
3306
mysql
/var/lib/mysql
数据库服务器2
Mon
192.168.1.4
3306
Mysql
/var/lib/mysql
数据库管理服务器
Proxy
192.168.1.5
4040
Proxy
 
数据库代理(NLB)
node1 node2 数据库服务器replication双向 master-master 虚拟机有限，只能开4台，因为node1与node2即做读又做写。
 


配置步骤：
Node1 node2 replication 双向 master-master
Node1 node2  安装mmm并配置mmm_regent.conf
Mon  安装mmm并配置mmm_mon.conf
proxy 安装mysql-proxy

 
一、配置node1 node2数据库服务器replication双向 master-master
1 、配置node1 同步
Mkdir /var/log/mysql
Chown mysql.mysql /var/log/mysql
my.cnf at db1 should have following options:
server-id =
1
log_bin =
mysql-bin
master_host
192.168.1.2
master_port
3306
master_user
replication
master_password
slave
 
mysql> grant replication slave on *.* to 'replication'@'%' identified by 'slave';
 
show slave status\G; 的结果：
    Slave_IO_Running: Yes
    Slave_SQL_Running: Yes
         
2 、配置node2同步
Mkdir /var/log/mysql
Chown mysql.mysql /var/log/mysql
my.cnf at db1 should have following options:
server-id =
2
log_bin =
mysql-bin
master_host
192.168.1.3
master_port
3306
master_user
replication
master_password
slave
mysql> grant replication slave on *.* to 'replication'@'%' identified by 'slave';
show slave status\G; 的结果：
    Slave_IO_Running: Yes
    Slave_SQL_Running: Yes
 
二、安装部署MMM
 
目标主机：
Node1
192.168.1.2
Node2
192.168.1.3
Mon
192.168.1.4
 
 
1 、安装mon主机软件包
前提：
--
Algorithm-Diff-1.1902.tar.gz
--
Proc-Daemon-0.03.tar.gz
RPM
mysql-server-5.0.22-2.1
RPM
mysql-5.0.22-2.1
RPM
perl-DBD-MySQL-3.0007-1.fc6
--
mmm-1.0.tar.bz2
 
先安裝2个perl的包：
--
Algorithm-Diff-1.1902.tar.gz
--
Proc-Daemon-0.03.tar.gz
perl 包的安裝過程都是：
perl Makefile.PL
make
make test
make install
 
安裝mmm：
./install.pl
 
2 、安装node1 node2 agent软件包（使用agent功能）
mmm-1.0.tar.bz2
安裝mmm：
./install.pl
 
三台主机安装以上软件后进行配置过程
 
三：node1 node2 的agent配置过程
$cd /usr/local/mmm/etc
$cp examples/mmm_agent.conf.examples ../mmm_agent.conf
node1 配置文件所需要修改的地方如下
cluster_interface eth0   －－配置IP所用的网卡
# Define current server id this db1
this db1
mode master
# For masters peer db2
Peer db2
# Cluster hosts addresses and access params
host db1
ip 192.168.1.2
port 3306
user rep_agent
password RepAgent
 
host db2
ip 192.168.1.3
port 3306
user rep_agent
password RepAgent
 
Node2 配置文件所需要修改的地方如下
# Cluster interface
cluster_interface eth0   －－配置IP所用的网卡
# Define current server id this db1
this db2
mode master
# For masters peer db2
Peer db1
# Cluster hosts addresses and access params
host db1
ip 192.168.1.2
port 3306
user rep_agent
password RepAgent
 
host db2
ip 192.168.1.3
port 3306
user rep_agent
password RepAgent
 
设置权限（node1/node2） 
GRANT ALL PRIVILEGES on *.* to 'rep_monitor'@'%' identified by 'RepMonitor';
 
四、修改mon主机的配置文件 所需要修改的地方如下：
文件位置：/usr/local/mmm/etc/mmm_mon.conf
 
# Cluster interface
cluster_interface eth0  －－－－配置IP所用的网卡
# Cluster hosts addresses and access params
host db1
数据库名
ip 192.168.1.2
node1 ip
port 3306
node1 port
user rep_monitor
node1  用户（供mon监控使用，该用户需要在db上添加）
password RepMonitor
对应密码
mode master
模式
peer db2
slave 指定
 
host db2
意义同上
ip 192.168.1.3
 
port 3306
 
user rep_monitor
 
password RepMonitor
 
mode master
 
peer db1
 
# 后续如有添加需求，请按照上面格式填写
 
active_master_role writer
 
# Mysql Reader role
读规则
role reader
mode balanced
模式为均摊
servers db1,db2
规则覆盖db1 db2（如有更多slave 继续填写，别忘了ip）
ip 192.168.1.7 ， 192.168.1.8
对应ip 虚拟的IP
# Mysql Writer role
role writer
写规则
mode exclusive
模式为独占
servers db1,db2
规则负载db1 db2
ip 192.168.1.9
两台数据库公用一个ip为写，采用HA模式，默认db1使用，db1下线db2接管此ip
 
五：测试MMM
在db1/db2上启动agent功能
/usr/local/mmm/scripts/init.d/mmm_agent start
 
在mon上启动mon功能
/usr/local/mmm/scripts/init.d/mmm_mon start
 
并对mon进行检测
# mmm_control set_online db1
# mmm_control set_online db2
# mmm_control show   查看分配情况
 
正常情况下:
# mmm_control show
Servers status:
  db1(192.168.1.2): master/ONLINE. Roles: reader(192.168.1.7;), writer(192.168.1.9;)
  db2(192.168.1.3): master/ONLINE. Roles: reader(192.168.1.8;)
 
stop 192.168.1.3
# mmm_control show
Servers status:
  db1(192.168.1.2): master/ONLINE. Roles: reader(192.168.1.7;), writer(192.168.1.9;)
  db2(192.168.1.3): master/REPLICATION_FAIL. Roles: None
 
检测出1.3出了故障.
等一会..进行了切换!因为读写是轮循的.这时写切到了3
# mmm_control show
Servers status:
  db1(192.168.1.2): master/ONLINE. Roles: reader(192.168.1.7;)
  db2(192.168.1.3): master/ONLINE. Roles: reader(192.168.1.8;), writer(192.168.1.9;)
 
Telnet  任何一个虚拟IP 3306都是通的
 
 
 
五、mysql_proxy与mysql MMM集成的必要性
1 、实现mysql数据库层的负载均衡
2 、数据库节点实现HA动态切换
3 、读写分离，降低主数据库负载
 
 
六、安装mysql proxy
1 、下载proxy代码包
从svn上获取最新代码
2 、安装
编译好的版本安装方法如下：
# tar zxf mysql-proxy-0.6.0-linux-rhas4-x86.tar.gz
# cd mysql-proxy-0.6.0-linux-rhas4-x86
# 可以看到有2个目录
# ls
sbin share
# mv sbin/mysql-proxy /usr/local/sbin/
# ls share
mysql-proxy tutorial-constants.lua tutorial-packets.lua tutorial-rewrite.lua tutorial-warnings.lua tutorial-basic.lua tutorial-inject.lua tutorial-query-time.lua tutorial-states.lua
# 将lua脚本放到/usr/local/share下，以备他用
# mv share/mysql-proxy /usr/local/share/
 
# 删除符号连接等垃圾代码
# strip /usr/local/sbin/mysql-proxy
 
 
proxy 与MMM集成
 
连接接管
Proxy 192.168.1.5
4040
读操作
Db1 192.168.1.7:3306
Db2 192.168.1.8:3306
 
写操作
Db1/db2 192.168.1.9
默认db1先用，db1当机,db2接管
 
 
mysql-proxy --proxy-read-only-backend-addresses=192.168.1.7:3306 --proxy-read-only-backend-addresses=192.168.1.8:3306 --proxy-backend-addresses=192.168.1.9:3306  --proxy-lua-script=/usr/local/share/mysql-proxy/rw-splitting.lua &
 
现在解释一下：
--proxy-backend-addresses=192.168.1.9:3306  指定mysql写主机的端口
--proxy-read-only-backend-addresses=192.168.1.7:3306  指定只读的mysql主机端口
--proxy-read-only-backend-addresses=192.168.1.8:3306  指定另一个只读的mysql主机端口
--proxy-lua-script=/usr/local/share/mysql-proxy/rw-splitting.lua  指定lua脚本，在这里，使用的是rw-splitting脚本，用于读写分离
完整的参数可以运行以下命令查看：
mysql-proxy --help-all
运行以下命令启动/停止/重启mysql proxy：
# /etc/init.d/mysql-proxy start
 
# /etc/init.d/mysql-proxy stop
 
# /etc/init.d/mysql-proxy restart
Ps -ef | grep mysql-proxy
 
七、测试结果
将web server 如apache 中部署的网站，数据库连接地址改为----〉proxy的ip端口为4040
1 、往数据库db1里写入数据，查看2个数据库同步情况
2 、使用mon服务器mmm_control show 查看状态
 
简单的测试可以连接proxy 4040 查看读写情况
方法我就不再详细写了。
 
 
 
编译过程有可能会遇到一些错误。下面是错误的总结：
1 ）如在make 阶段出错
   (1) 类、、、、make: *** [dbdimp.o] 错误 1
多半是库文件的问题，（--cflags=-I/usr/local/mysql/include/mysq 细查，少个“y"
    （2）类 LD_RUN_PATH="/usr/lib/mysql:/lib:/usr/lib" gcc
    -o blib/arch/auto/DBD/mysql/mysql.so  -shared
    -L/usr/local/lib dbdimp.o mysql.o -L/usr/lib/mysql
    -lmysqlclient -lm -L/usr/lib/gcc-lib/i386-redhat-linux/2.96
    -lgcc -lz
  /usr/bin/ld: cannot find -lz
  collect2: ld returned 1 exit status
  make: *** [blib/arch/auto/DBD/mysql/mysql.so] Error 1
   与压缩包有关。可用 ldconfig -p | grep libz
                     ldconfig -p | grep libgz
    查找，如有并指定路径！否则安装 libz-devel／ibgz-devel／zlib-devel／    gzlib-devel
2) 在make test 阶段出错:
  (1) 类: install_driver(mysql) failed: Can't load
  '/usr/lib/perl5/site_perl/i586-linux/auto/DBD/mysql/mysql.so'
  for module DBD::mysql: File not found at
  /usr/lib/perl5/i586-linux/5.00404/DynaLoader.pm line 166
   与 /usr/lib/mysql/libmysqlclient.a有关 （cp libmysqlclient.a /us/lib)
  (2) 类： t/00base............install_driver(mysql) failed: Can't load
  '../blib/arch/auto/DBD/mysql/mysql.so' for module DBD::mysql:
  ../blib/arch/auto/DBD/mysql/mysql.so: undefined symbol: _umoddi3
  at /usr/local/perl-5.005/lib/5.005/i586-linux-thread/DynaLoader.pm
  line 168.
   与libgcc.a 有关 (cp /usr/lib/gcc/i386-redhat-linux/4.1.1/libgcc.a /usr/local/lib/
  (3)  类：Can't load  libmysqlclient.so.15 、、、、
      （cp libmysqlclient.so.15 /us/lib)
----------------------------------------
$perl Makefile.PL  --libs="-L/usr/local/mysql/lib/mysql -lmysqlclient -L/usr/lib -lz " --cflags=-I/usr/local/mysql/include/mysql  --mysql_config=/usr/local/mysql/bin/mysql_config  --testhost=127.0.0.1--testsocket=/usr/local/mysql/tmp/mysql.sock --testdb=test --testuser=abc --testpassword=abc
------------------
$
; make; make test ;sudo  make install;


本文转自守住每一天51CTO博客，原文链接：http://blog.51cto.com/liuyu/98867，如需转载请自行联系原作者
文章标签：
云数据库 RDS MySQL 版
关系型数据库
MySQL
数据库
Perl
关键词：
云数据库 RDS MySQL 版读写分离
云数据库 RDS MySQL 版mmm
云数据库 RDS MySQL 版proxy
云数据库 RDS MySQL 版实现
云数据库 RDS MySQL 版proxy读写分离
相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发，帮助IT从业者们通过“阿里云Web应用上云解决方案”，了解一个企业级Web应用上云的常见架构，了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。   相关的阿里云产品：云数据库RDS MySQL 版 阿里云关系型数据库RDS（Relational Database Service）是一种稳定可靠、可弹性伸缩的在线数据库服务，提供容灾、备份、恢复、迁移等方面的全套解决方案，彻底解决数据库运维的烦恼。 了解产品详情: https://www.aliyun.com/product/rds/mysql 
科技小先锋
目录
相关文章
小王老师呀
|
负载均衡 监控 关系型数据库
MySQL 官宣：支持读写分离了！！
【10月更文挑战第8天】MySQL的读写分离功能显著提升了数据库性能、可用性和可靠性。通过将读写操作分配至不同服务器，有效减轻单个服务器负载，提高响应速度与吞吐量，并增强系统稳定性。此外，它还支持便捷的扩展方式，可通过增加只读服务器提升读操作性能。实现读写分离的方法包括软件层面（如使用数据库中间件）和硬件层面（使用独立服务器）。使用时需注意数据一致性、负载均衡及监控管理等问题。
小王老师呀
664 0
2G冲浪词条
|
SQL 关系型数据库 MySQL
如何实现 MySQL 的读写分离？
本文介绍了 MySQL 读写分离的实现方式及其主从复制原理，解释了如何通过主从架构提升读并发能力。重点分析了主从同步延时问题及解决方案，如半同步复制、并行复制等技术手段，并结合实际案例探讨了高并发场景下的优化策略。文章还提醒开发者在编写代码时需谨慎处理插入后立即查询的情况，避免因主从延时导致的数据不一致问题。
2G冲浪词条
1420 44
如何实现 MySQL 的读写分离？
程序员小海绵
|
关系型数据库 MySQL Java
MySQL主从复制实现读写分离
MySQL主从复制（二进制日志）、 Sharding-JDBC实现读写分离
程序员小海绵
315 0
MySQL主从复制实现读写分离
竹子爱熊猫
|
SQL 关系型数据库 MySQL
(二十五)MySQL主从实践篇：超详细版读写分离、双主热备架构搭建教学
在上篇《主从原理篇》中，基本上把主从复制原理、主从架构模式、数据同步方式、复制技术优化.....等各类细枝末节讲清楚了，本章则准备真正对聊到的几种主从模式落地实践，但实践的内容通常比较枯燥乏味，因为就是调整各种配置、设置各种参数等步骤。
竹子爱熊猫
2171 4
2G冲浪词条
|
SQL 关系型数据库 MySQL
mysql读写分离，主从同步
本文介绍了如何在Laravel项目中配置数据库读写分离，并实现MySQL主从同步。主要步骤包括：在`config/database.php`中设置读写分离配置；为主机授予从机访问权限；配置各MySQL服务器的`/etc/my.cnf`文件以确保唯一的`server-id`；以及通过SQL命令设置主从关系并启动从服务。文章还针对一些常见错误提供了排查方法。最后通过验证确认主从同步是否成功。[原文链接](https://juejin.cn/post/6901581801458958344)。版权所有者为作者佤邦帮主，转载请遵循相关规定。
2G冲浪词条
231 0
jianz123
|
cobar 关系型数据库 MySQL
使用MyCat实现MySQL主从读写分离（一）概述
【8月更文挑战第11天】MySQL读写分离通过主从复制分散负载，主库负责写操作，从库承担读查询，以复制技术确保数据一致性。此策略有效缓解锁竞争，提升查询效能并增强系统可用性。实现方式包括应用层处理，简便快捷但灵活性受限；或采用中间件如MyCAT、Vitess等，支持复杂场景但需专业团队维护。
jianz123
501 0
花酒锄作田
|
SQL 关系型数据库 MySQL
基于proxysql实现MySQL读写分离
基于proxysql实现MySQL读写分离
花酒锄作田
749 0
顾翔
|
9月前
|
缓存 关系型数据库 BI
使用MYSQL Report分析数据库性能（下）
使用MYSQL Report分析数据库性能
顾翔
544 158
翼龙云TG_yilongcloud
|
9月前
|
关系型数据库 MySQL 数据库
自建数据库如何迁移至RDS MySQL实例
数据库迁移是一项复杂且耗时的工程，需考虑数据安全、完整性及业务中断影响。使用阿里云数据传输服务DTS，可快速、平滑完成迁移任务，将应用停机时间降至分钟级。您还可通过全量备份自建数据库并恢复至RDS MySQL实例，实现间接迁移上云。
翼龙云TG_yilongcloud
305 1
游客vphb4ae2je2zi
|
9月前
|
关系型数据库 MySQL 数据库
阿里云数据库RDS费用价格：MySQL、SQL Server、PostgreSQL和MariaDB引擎收费标准
阿里云RDS数据库支持MySQL、SQL Server、PostgreSQL、MariaDB，多种引擎优惠上线！MySQL倚天版88元/年，SQL Server 2核4G仅299元/年，PostgreSQL 227元/年起。高可用、可弹性伸缩，安全稳定。详情见官网活动页。
游客vphb4ae2je2zi
1441 152

热门文章

最新文章

  • 1
    阿里云DTS踩坑经验分享系列｜如何使用DTS进行MySQL->ClickHouse同步
  • 2
    MySQL · 引擎特性 · InnoDB redo log漫游
  • 3
    阿里云服务器ecs配置之安装mysql
  • 4
    【图形工具】MySQL Workbench 图形化界面工具
  • 5
    【MySQL集群】——Java程序连接MySQL集群
  • 6
    MySQL8.0InnoDB的架构。
  • 7
    MySql高级四--mysql日志
  • 8
    『Mysql』Mysql四种分区方式及组合分区落地实现
  • 9
    IDEA+Java+SSM+Mysql+Layui实现Web学生成绩管理系统【建议收藏】（上）
  • 10
    导入execl到数据库mysql
  • 1
    【紧急救援】MySQL CPU 100%！一套组合拳教你快速定位并解决！
    966
  • 2
    MySQL中日期和时间函数的使用指南
    449
  • 3
    MySQL 与 Redis 如何保证双写一致性？
    837
  • 4
    【赵渝强老师】MySQL的事务隔离级别
    446
  • 5
    【Docker】（3）学习Docker中 镜像与容器数据卷、映射关系！手把手带你安装 MySql主从同步 和 Redis三主三从集群！并且进行主从切换与扩容操作，还有分析 哈希分区 等知识点！
    858
  • 6
    MySQL源码编译安装
    2023
  • 7
    MySQL二进制包安装
    1222
  • 8
    MySQL包安装 -- SUSE系列（离线RPM包安装MySQL）
    831
  • 9
    MySQL包安装 -- SUSE系列（SUSE资源库安装MySQL）
    791
  • 10
    MySQL包安装 -- Debian系列（离线DEB包安装MySQL）
    3345

    • 相关课程

    更多
  • MySQL企业常见架构与调优经验分享
  • 阿里云云原生数据仓库AnalyticDB MySQL版 使用教程
  • MySQL实战进阶
  • 阿里云数据库产品家族及特性
  • 数据库及SQL/MySQL基础
  • 云数据库MySQL快速入门

    • 相关电子书

    更多
  • PolarDB MySQL引擎重磅功能及产品能力盛大发布
  • 阿里云MySQL云数据库产品体系介绍
  • One Box： 解读事务与分析一体化数据库 HybridDB for MySQL

    • 推荐镜像

    更多
  • mysql
    • 下一篇
    阿里云正式发布 Agentic 代码安全：AI驱动的双Agent协同引擎