MySQL主从复制的原理与实操+mycat2读写分离

本文涉及的产品
RDS MySQL DuckDB 分析主实例,集群系列 4核8GB
RDS AI 助手,专业版
简介: MySQL主从复制的原理与实操+mycat2读写分离

MySQL主从复制的原理与实操

主从复制原理

当一个MySQL数据库服务器负载过重或者需要横向扩展时,主从复制是一种非常常见的解决方案。MySQL主从复制是将一个数据库服务器(master)的数据复制到其他数据库服务器(salve)的过程。在这个过程中,主服务器上的所有更改都将被自动复制到从服务器,从而实现数据同步。

下面是MySQL主从复制的基本原理:

  1. 主服务器记录二进制日志(Binary Log)。
  2. 从服务器连接到主服务器并请求复制数据。主服务器创建一个复制线程,将复制数据发送给从服务器。从服务器通过IO Thread(输入/输出线程)连接到主服务器,并从主服务器请求二进制日志文件。主服务器在二进制日志中记录所有的更改,然后将这些更改发送给从服务器。IO Thread 将这些更改写入从服务器上的中继日志文件(Relay Log)。
  3. 从服务器执行中继日志中的更改。SQL Thread(SQL 线程)从中继日志中读取数据并将其应用到从服务器上。SQL Thread 按照主服务器的顺序执行每个更改,以确保从服务器与主服务器保持同步。
  4. 当有新的更改发生时,主服务器将记录更改并将其发送到所有连接的从服务器。从服务器将这些更改写入中继日志文件并应用这些更改。
  5. 如果从服务器出现问题,可以通过将一个新的从服务器连接到主服务器来重新启动复制进程。

需要注意的是,MySQL主从复制并不是一种高可用性解决方案。如果主服务器宕机,从服务器将不能自动接管服务。因此,在设计高可用性系统时,可能需要使用其他技术。

MySQL主从复制的高级应用

  1. 复制方式:MySQL主从复制可以通过同步或异步的方式进行复制。在同步复制中,主服务器必须等待所有的从服务器确认它们已成功地接收并应用了所有更改,才能提交更改。这确保了数据的一致性,但会降低系统的性能。在异步复制中,主服务器无需等待从服务器确认,因此可以提高系统的性能,但可能会导致数据不一致。
  2. 复制过滤:在进行主从复制时,可以使用复制过滤来控制哪些更改将被复制到从服务器。例如,可以指定仅复制特定的数据库、表或列。
  3. 自动故障转移:MySQL主从复制本身并不支持自动故障转移,因此在设计高可用性系统时,需要使用其他技术,例如基于虚拟IP地址的故障转移技术或者结合使用MySQL主从复制和集群技术来实现。
  4. 主从切换:在某些情况下,需要手动切换主从角色,例如当主服务器出现故障时,需要手动将从服务器提升为主服务器。在进行主从切换时,需要注意切换的正确性以及避免数据不一致。

总的来说,MySQL主从复制是一种非常强大和灵活的技术,它可以实现数据的高可用性、负载均衡和数据备份等目的。但是在使用时需要了解其原理和细节,以避免出现潜在的问题。

MySQL主从复制实操(一主两从)

环境准备

两台机器一主两从。

主master:IP 192.168.133.129

从slave1:IP 192.168.133.130

从slave2:IP 192.168.133.131

master配置

[mysqld] 
log_bin = mysql-bin 
server_id = 1
systemctl restart mysqld      # 重启服务

2.建立同步账号

mysql> grant replication slave on *.* to 'rep'@'192.168.133.%' identified by
'123456';
mysql> show grants for 'rep'@'192.168.133.%';

3.通过mysqldump同步三个数据库中的db

# 锁表设置只读为后面备份准备,注意生产环境要提前申请停机时间; 
mysql> flush tables with read lock; 
# 提示:如果超过设置时间不操作会自动解锁。 
mysql> show variables like '%timeout%'; 
# 测试锁表后是否可以创建数据库:
# 查看主库状态,即当前日志文件名和二进制日志偏移量
mysql> show master status;
# 备份数据库数据
mysqldump -uroot -p -A  -B ···> /server/backup/mysql_bak.$(date +%F).sql

4.解锁
mysql> unlock tables;

5.主库备份数据上传到从库

scp /server/backup/mysql_bak.2015-11-18.sql.gz 192.168.95.130:/server/backup

slave设置

1)设置server-id值并关闭binlog参数

[mysqld] 
log_bin = mysql-bin 
server_id = 130
# 重启数据库
systemctl restart mysqld  

2.还原从主库备份数据

cd /server/backup/ 
mysql -uroot -p < /server/backup/mysql_bak.$(date +%F).sql
# 检查还原: 
mysql -uroot -p -e 'show databases;' 

3.设定从主库同步

mysql> change master to 
MASTER_HOST='192.168.95.120', 
MASTER_PORT=3306, 
MASTER_USER='rep', 
MASTER_PASSWORD='123456', 
MASTER_LOG_FILE='mysql-bin.000003', 
MASTER_LOG_POS=329; 

4.启动从库同步开关

mysql> start slave; 
# 检查状态: 
mysql> show slave status\G
# Slave_IO_Running: IO线程是否打开 YES/No/NULL
# Slave_SQL_Running: SQL线程是否打开 YES/No/NULL

MySQL读写分离配置(一主两从)

创建数据源

# 添加读写的数据源 
/*+ mycat:createDataSource{ 
"dbType":"mysql", 
"idleTimeout":60000, 
"initSqls":[], 
"initSqlsGetConnection":true, 
"instanceType":"READ_WRITE", 
"maxCon":1000, 
"maxConnectTimeout":3000, 
"maxRetryCount":5, 
"minCon":1, 
"name":"m1", 
"password":"123456", 
"type":"JDBC", 
"url":"jdbc:mysql://127.0.0.1:3306/db1? useUnicode=true&serverTimezone=UTC&characterEncoding=UTF-8", "user":"root", 
"weight":0 
} */;
# 添加读的数据源 
/*+ mycat:createDataSource{ 
"dbType":"mysql", 
"idleTimeout":60000, 
"initSqls":[], 
"initSqlsGetConnection":true, 
"instanceType":"READ", 
"maxCon":1000, 
"maxConnectTimeout":3000, 
"maxRetryCount":5,
"minCon":1, 
"name":"m1s1", 
"password":"123456", 
"type":"JDBC", 
"url":"jdbc:mysql://127.0.0.1:3307/db1? useUnicode=true&serverTimezone=UTC&characterEncoding=UTF-8",
"user":"root", 
"weight":0 }
*/;
/*+ mycat:createDataSource{ 
"dbType":"mysql", 
"idleTimeout":60000, 
"initSqls":[], 
"initSqlsGetConnection":true, 
"instanceType":"READ", 
"maxCon":1000, 
"maxConnectTimeout":3000, 
"maxRetryCount":5,
"minCon":1, 
"name":"m1s2", 
"password":"123456", 
"type":"JDBC", 
"url":"jdbc:mysql://127.0.0.1:3308/db1? useUnicode=true&serverTimezone=UTC&characterEncoding=UTF-8",
"user":"root", 
"weight":0 }
*/;

查询数据源

/*+ mycat:showDataSources{} */

7.3 创建集群

/*! mycat:createCluster{ 
"clusterType":"MASTER_SLAVE", 
"heartbeat":{ 
"heartbeatTimeout":1000, 
"maxRetry":3,
"minSwitchTimeInterval":300, 
"slaveThreshold":0 
}, "masters":[ 
"m1
" ], 
"maxCon":2000,
"name":"prototype",
"readBalanceType":"BALANCE_ALL",
"replicas":[
"m1s1"
"m1s2"
],
"switchType":"SWITCH"
} */;

查询集群

/*+ mycat:showClusters{} */

创建逻辑库

CREATE DATABASE db1 DEFAULT CHARACTER SET utf8mb4 COLLATE utf8mb4_general_ci;

修改逻辑库的数据源

修改conf/schemas/db1.schema.json

vim /data/mycat/conf/schemas/db1.schema.json

在里面添加 "targetName":"prototype",

[root@node4 mysqlms]# cat /data/mycat/conf/schemas/db1.schema.json
{
"customTables":{},
"globalTables":{},
"normalProcedures":{},
"normalTables":{},
"schemaName":"db1",
"shardingTables":{},
"targetName":"prototype",
"views":{}
}

测试读写分离是否成功

在MyCAT里面测试

重启MyCAT:

[root@node4 mysqlms]# cd /data/mycat/bin/
[root@node4 bin]# ./mycat restart

1)在MyCAT里面创建一个sys_user表:

use db1;
CREATE TABLE SYS_USER( ID BIGINT PRIMARY KEY, USERNAME VARCHAR(200) NOT NULL,ADDRESS VARCHAR(500));

2)通过注释生成物理库和物理表:

如果物理表不存在,在 MyCAT2 能正常启动的情况下,根据当前配置自动创建分片表,全局表和物理 表:

/*+ mycat:repairPhysicalTable{} */;

3)查看后端物理库

4)在MyCAT里面向sys_user表添加一条数据:

INSERT INTO SYS_USER(ID,USERNAME,ADDRESS) VALUES(1,"XIAOMING","WUHAN");

5)修改MySQL里面的让数据不一样

6)在MyCAT里面查询数据,会发现每次查询的结果不一样

相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。 &nbsp; 相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情:&nbsp;https://www.aliyun.com/product/rds/mysql&nbsp;
相关文章
|
6月前
|
存储 SQL 关系型数据库
mysql底层原理:索引、慢查询、 sql优化、事务、隔离级别、MVCC、redolog、undolog(图解+秒懂+史上最全)
mysql底层原理:索引、慢查询、 sql优化、事务、隔离级别、MVCC、redolog、undolog(图解+秒懂+史上最全)
mysql底层原理:索引、慢查询、 sql优化、事务、隔离级别、MVCC、redolog、undolog(图解+秒懂+史上最全)
|
10月前
|
自然语言处理 搜索推荐 关系型数据库
MySQL实现文档全文搜索,分词匹配多段落重排展示,知识库搜索原理分享
本文介绍了在文档管理系统中实现高效全文搜索的方案。为解决原有ES搜索引擎私有化部署复杂、运维成本高的问题,我们转而使用MySQL实现搜索功能。通过对用户输入预处理、数据库模糊匹配、结果分段与关键字标红等步骤,实现了精准且高效的搜索效果。目前方案适用于中小企业,未来将根据需求优化并可能重新引入专业搜索引擎以提升性能。
496 5
|
6月前
|
SQL 关系型数据库 MySQL
MySQL group by 底层原理详解。group by 执行 慢 原因深度分析。(图解+秒懂+史上最全)
MySQL group by 底层原理详解。group by 执行 慢 原因深度分析。(图解+秒懂+史上最全)
MySQL group by 底层原理详解。group by 执行 慢 原因深度分析。(图解+秒懂+史上最全)
|
11月前
|
SQL 关系型数据库 MySQL
如何实现 MySQL 的读写分离?
本文介绍了 MySQL 读写分离的实现方式及其主从复制原理,解释了如何通过主从架构提升读并发能力。重点分析了主从同步延时问题及解决方案,如半同步复制、并行复制等技术手段,并结合实际案例探讨了高并发场景下的优化策略。文章还提醒开发者在编写代码时需谨慎处理插入后立即查询的情况,避免因主从延时导致的数据不一致问题。
1268 44
如何实现 MySQL 的读写分离?
|
11月前
|
SQL 网络协议 关系型数据库
MySQL 主从复制
主从复制是 MySQL 实现数据冗余和高可用性的关键技术。主库通过 binlog 记录操作,从库异步获取并回放这些日志,确保数据一致性。搭建主从复制需满足:多个数据库实例、主库开启 binlog、不同 server_id、创建复制用户、从库恢复主库数据、配置复制信息并开启复制线程。通过 `change master to` 和 `start slave` 命令启动复制,使用 `show slave status` 检查同步状态。常见问题包括 IO 和 SQL 线程故障,可通过重置和重新配置解决。延时原因涉及主库写入延迟、DUMP 线程性能及从库 SQL 线程串行执行等,需优化配置或启用并行处理
278 40
|
11月前
|
关系型数据库 MySQL 数据库
RDS用多了,你还知道MySQL主从复制底层原理和实现方案吗?
随着数据量增长和业务扩展,单个数据库难以满足需求,需调整为集群模式以实现负载均衡和读写分离。MySQL主从复制是常见的高可用架构,通过binlog日志同步数据,确保主从数据一致性。本文详细介绍MySQL主从复制原理及配置步骤,包括一主二从集群的搭建过程,帮助读者实现稳定可靠的数据库高可用架构。
645 9
RDS用多了,你还知道MySQL主从复制底层原理和实现方案吗?
|
11月前
|
SQL 存储 关系型数据库
MySQL主从复制 —— 作用、原理、数据一致性,异步复制、半同步复制、组复制
MySQL主从复制 作用、原理—主库线程、I/O线程、SQL线程;主从同步要求,主从延迟原因及解决方案;数据一致性,异步复制、半同步复制、组复制
1291 11
|
11月前
|
存储 缓存 关系型数据库
MySQL进阶突击系列(08)年少不知BufferPool核心原理 | 大哥送来三条大金链子LRU、Flush、Free
本文深入探讨了MySQL中InnoDB存储引擎的buffer pool机制,包括其内存管理、数据页加载与淘汰策略。Buffer pool作为高并发读写的缓存池,默认大小为128MB,通过free链表、flush链表和LRU链表管理数据页的存取与淘汰。其中,改进型LRU链表采用冷热分离设计,确保预读机制不会影响缓存公平性。文章还介绍了缓存数据页的刷盘机制及参数配置,帮助读者理解buffer pool的运行原理,优化MySQL性能。
|
SQL 存储 关系型数据库
MySQL进阶突击系列(05)突击MVCC核心原理 | 左右护法ReadView视图和undoLog版本链强强联合
2024年小结:感谢阿里云开发者社区每月的分享交流活动,支持持续学习和进步。过去五个月投稿29篇,其中17篇获高分认可。本文详细介绍了MySQL InnoDB存储引擎的MVCC机制,包括数据版本链、readView视图及解决脏读、不可重复读、幻读问题的demo演示。
|
4月前
|
缓存 关系型数据库 BI
使用MYSQL Report分析数据库性能(下)
使用MYSQL Report分析数据库性能
187 3

推荐镜像

更多