MySQL主从复制Galera

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
云数据库 RDS MySQL,高可用系列 2核4GB
简介:

一、主从复制的问题和解决方案

二、Galera Cluster

三、MySQL 5.6的多线程复制、GTID

MySQL Replication:

Master HA或多主节点模型

MMM:multi master MySQL 

MHA:Master HA 

对主节点进行监控,可实现自动故障转移至其他从节点,通过提升某一从节点为新的主节点

Galera Cluster:wresp 

通过wresp协议在全局实现复制:任何一节点都可读写

读写分离://一般都是自己研发的

mysql-proxy:没有stable稳定版本

mysql-proxy--> Atals (Qihoo) 

Amoeba:目前,活跃度不高

一、复制的问题和解决方案:

(1)数据损坏或丢失:

            某个slave上损坏:在slave上重放二进制日志,各种原因,导致数据不一致。例如硬件故障        

            //使用其他master上的备份的数据集,在新的slave上进行还原,从备份的位置开始从master上进行复制。

    重新复制即可//下线故障的slave,还原然后重新复制即可

    master数据损坏或丢失:

        //在各个slave上根据其gtid,找出最新的salve,然后提升为master

        //MHA+semi repl //MHA和一个node半同步复制,提升半同步node为新的master即可

//最后方案:

    二进制日志分析,然后还原

    单个故障了:活该!

(2)混合使用存储引擎;//坚决杜绝

    MyISAM不支持事务//不能回滚的

    InnoDB支持事务

(3)不唯一的server id 

    整个复制集群,可能导致错乱。

    //例如某个slave的server id和master的server id一样,那么他就不会重放master发来的server-id 

    修改server id 重新复制 

(4)复制延迟

    从node落后于master

    自己写脚本,不断监控,发现落后的时间不等于0,后,可以重启slave的io线程

    需要额外的监控工具来辅助实现。

    在master上事务是可以并发的,但是往同一个二进制日志写入是单线程的

    因此slave在本地应用也是单线程的

    master上有多个库,每一个库的事务是可以并行的,因为对A库的锁,对B库是没有影响的,但是反映到二进制日志中必然有先后的顺序

    因此slave落后是没有办法避免的,因此mysql 5.5之后引入了多线程机制。

    

    支持一从多主和多线程复制

    多线程复制//每一个数据库只启用一个线程

     //但是主库是不能一样的

    多线程复制:还是有用的,依赖于gtid 

        //MySQL 5.6.3之后,MariaDB10.0.5之后

    复制线程:Master上的IO线程和Slave上的IO、SQL线程,

数据库服务的衡量指标:

qps:query per second 

tps:事务per second 

数据库压力测试工具:

sysbench 

二、Galera Cluster:多用于MySQL的数据复制

http://galeracluster.com/

更底层的复制机制

需要单独编译实现。

安装方式

msyql官方或者galera //官方提供的支持galera 的版本

percona-cluster //整合过mysql版本

mariadb-cluster //专用的复制

base和epel都没有提供galera-cluster的源

默认的mariadb版本是不支持galera的

需要用到的包:

MariaDB-5.5.46-centos7-x86_64-client.rpm

MariaDB-5.5.46-centos7-x86_64-common.rpm

MariaDB-Galera-5.5.46-centos7-x86_64-common.rpm

//至少需要3个node


1.前提:hosts文件和时间同步

node1:192.168.1.67

node2:192.168.1.68

node3:192.168.1.69


node1: 

建议在本地配置yum源

yum remove mariadb //卸载client和server端

yum install MairaDB-Galera-server 

node2: 

建议在本地配置yum源

yum remove mariadb //卸载client和server端

yum install MairaDB-Galera-server 

node3: 

建议在本地配置yum源

yum remove mariadb //卸载client和server端

yum install MairaDB-Galera-server 


2.配置文件说明/etc/my.cnf.d/server.cnf 

...

[galera] 

# Manatory settings //强制配置

#wresp_provider = /usr/lib64/galera/libgalera_smm.so 

#wresp_cluster_address = "gcomm://192.168.1.67, 192.168.1.68, 192.168.1.69"  

#wresp_cluster_name = "mycluster" 

#wresp_node_name = 'node1'

#wresp_node_address = '192.168.1.67' //这两个可以省略

#binlog_format = row 

#default_storage_engine=InnoDB

#bind-address=0.0.0.0


# Optional setting 

#wsrep_slave_threads=1

#innodb_flush_logs_at_trx_commit=0 

...


首次启动:需要初始化集群,在其中一个node上执行如下命令

/etc/init.d/mysql start --wsreq-new-cluster 

而后正常启动其他节点即可

3.修改配置文件

node1: 

[galera] 

wresp_provider=/usr/lib64/galera/libgalera_smm.so 

wresp_cluster_address="gcomm://192.168.1.67, 192.168.1.68, 192.168.1.69"  

binlog_format=row 

default_storage_engine=InnoDB

innodb_autoinc_lock_mode=2 

bind-address=0.0.0.0

wresp_cluster_name="mycluster" 

node2: 和 node3: 配置文件相同 


node1:任意一个node都可以

/etc/rc.d/init.d/mysql start --wsrep-new-cluster

node2: 

service mysql start 

node3:

service mysql start 

3.测试 

mysql> 任何一个node创建数据

在其他node上可以看到有数据

node1:

> use mydb;

> create table tb2 (id int unsigned auto_increment not null primary key,name char(30));

> insert into tb2 (name) values ('hi'),('hello');

node2:

> select * from tb2; 

id | name 

---------

1 | h1 

4 | hello  

> insert into tb2 (name) values ('to'),('from');

> select * from tb2 

1 hi 

4 hello 

5 to 

8 from 

使用全局id生成器

r/w分离器:

要么自己写

要么使用开源的工具

或者在应用层配置实现 //一旦故障需要手动修改或者使用vrrp

亲测方法:

1.复制所有的rpm文件

2.createrepot /testrepo 

3.修改yum文件指向该yum源即可

4.使用yum进行安装即可


三、MySQL 5.6的多线程复制、GTID

注意:任何服务或者主机都应该被监控

mysql落后的原因:单线程复制,

5.5 半同步

5.6 GTID、多线程复制,

MariaDB在配置文件的mysqld选项组中添加:

slave-parallel-threads

MASTER: my.cnf添加以下参数 

binlog_format = row 

gtid_mode = ON 

enforce-gtid-consistency = ON 

slave_parallel_workers=4           --开启基于库的多线程复制默认0不开启 

binlog_cache_size = 8M 

max_binlog_size = 50M 

max_binlog_cache_size = 100M 

sync_binlog = 1 

expire_logs_days = 1 

log-slave-updates=true 

SLAVE: my.cnf添加以下参数  

binlog_format = row 

gtid_mode = ON 

enforce-gtid-consistency = ON 

binlog_cache_size = 8M 

max_binlog_size = 50M 

max_binlog_cache_size = 100M 

sync_binlog = 1 

expire_logs_days = 1 

slave_parallel_workers=4 

max_relay_log_size = 50M 

relay_log_purge = 1 

relay_log_recovery = 1  

master_verify_checksum = 1        --主事件校验 

slave_sql_verify_checksum = 1     --从事件校验 

slave_allow_batching = 1 

log-slave-updates=true 


MySQL 5.6和5.7的并行复制:参考

            http://www.cnblogs.com/xiaotengyi/p/5532191.html









本文转自MT_IT51CTO博客,原文链接:http://blog.51cto.com/hmtk520/1943840,如需转载请自行联系原作者

相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
21天前
|
关系型数据库 MySQL 数据库
RDS用多了,你还知道MySQL主从复制底层原理和实现方案吗?
随着数据量增长和业务扩展,单个数据库难以满足需求,需调整为集群模式以实现负载均衡和读写分离。MySQL主从复制是常见的高可用架构,通过binlog日志同步数据,确保主从数据一致性。本文详细介绍MySQL主从复制原理及配置步骤,包括一主二从集群的搭建过程,帮助读者实现稳定可靠的数据库高可用架构。
74 9
RDS用多了,你还知道MySQL主从复制底层原理和实现方案吗?
|
26天前
|
SQL 网络协议 关系型数据库
MySQL 主从复制
主从复制是 MySQL 实现数据冗余和高可用性的关键技术。主库通过 binlog 记录操作,从库异步获取并回放这些日志,确保数据一致性。搭建主从复制需满足:多个数据库实例、主库开启 binlog、不同 server_id、创建复制用户、从库恢复主库数据、配置复制信息并开启复制线程。通过 `change master to` 和 `start slave` 命令启动复制,使用 `show slave status` 检查同步状态。常见问题包括 IO 和 SQL 线程故障,可通过重置和重新配置解决。延时原因涉及主库写入延迟、DUMP 线程性能及从库 SQL 线程串行执行等,需优化配置或启用并行处理
95 40
|
1月前
|
SQL 存储 关系型数据库
MySQL主从复制 —— 作用、原理、数据一致性,异步复制、半同步复制、组复制
MySQL主从复制 作用、原理—主库线程、I/O线程、SQL线程;主从同步要求,主从延迟原因及解决方案;数据一致性,异步复制、半同步复制、组复制
136 11
|
3月前
|
NoSQL 关系型数据库 Redis
《docker高级篇(大厂进阶):1.Docker复杂安装详说》包括:安装mysql主从复制、安装redis集群
《docker高级篇(大厂进阶):1.Docker复杂安装详说》包括:安装mysql主从复制、安装redis集群
142 14
|
3月前
|
关系型数据库 MySQL 数据库
docker高级篇(大厂进阶):安装mysql主从复制
docker高级篇(大厂进阶):安装mysql主从复制
134 24
|
5月前
|
SQL 关系型数据库 MySQL
Mysql中搭建主从复制原理和配置
主从复制在数据库管理中广泛应用,主要优点包括提高性能、实现高可用性、数据备份及灾难恢复。通过读写分离、从服务器接管、实时备份和地理分布等机制,有效增强系统的稳定性和数据安全性。主从复制涉及I/O线程和SQL线程,前者负责日志传输,后者负责日志应用,确保数据同步。配置过程中需开启二进制日志、设置唯一服务器ID,并创建复制用户,通过CHANGE MASTER TO命令配置从服务器连接主服务器,实现数据同步。实验部分展示了如何在两台CentOS 7服务器上配置MySQL 5.7主从复制,包括关闭防火墙、配置静态IP、设置域名解析、配置主从服务器、启动复制及验证同步效果。
251 0
Mysql中搭建主从复制原理和配置
|
5月前
|
存储 关系型数据库 MySQL
MySQL主从复制原理和使用
本文介绍了MySQL主从复制的基本概念、原理及其实现方法,详细讲解了一主两从的架构设计,以及三种常见的复制模式(全同步、异步、半同步)的特点与适用场景。此外,文章还提供了Spring Boot环境下配置主从复制的具体代码示例,包括数据源配置、上下文切换、路由实现及切面编程等内容,帮助读者理解如何在实际项目中实现数据库的读写分离。
329 1
MySQL主从复制原理和使用
|
5月前
|
SQL 关系型数据库 MySQL
mysql主从复制概述和配置
【10月更文挑战第22天】MySQL 主从复制是一种将主服务器的数据复制到一个或多个从服务器的技术,实现读写分离,提高系统性能和可用性。主服务器记录变更日志,从服务器通过 I/O 和 SQL 线程读取并应用这些变更。适用于读写分离、数据备份和恢复、数据分析等场景。配置步骤包括修改配置文件、创建复制用户、配置从服务器连接主服务器并启动复制进程。
272 1
|
5月前
|
监控 关系型数据库 MySQL
深入了解MySQL主从复制:构建高效稳定的数据同步架构
深入了解MySQL主从复制:构建高效稳定的数据同步架构
196 1
|
6月前
|
存储 关系型数据库 MySQL
分析MySQL主从复制中AUTO_INCREMENT值不一致的问题
通过对 `AUTO_INCREMENT`不一致问题的深入分析和合理应对措施的实施,可以有效地维护MySQL主从复制环境中数据的一致性和完整性,确保数据库系统的稳定性和可靠性。
155 6