《MySQL 简易速速上手小册》第6章:MySQL 复制和分布式数据库(2024 最新版)

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
云数据库 RDS PostgreSQL,集群系列 2核4GB
简介: 《MySQL 简易速速上手小册》第6章:MySQL 复制和分布式数据库(2024 最新版)

05163ff3f5ff78e28cb2b8fc9dac5c9.png

6.1 设置和管理复制

在 MySQL 的世界里,复制不仅仅是数据的翻版,它是提高数据可用性、可靠性和灾难恢复能力的关键技术。让我们深入了解如何启动你的复制之旅,确保你的数据不会因为任何意外而遗失。

6.1.1 基础知识

复制允许数据从一个 MySQL 服务器(主服务器)同步到一个或多个 MySQL 服务器(从服务器)。这个过程可以是异步的,也可以是半同步的,取决于你对数据一致性的需求。

  • 主从复制配置:在主服务器上,你需要启用二进制日志并创建一个具有复制权限的用户。在从服务器上,你需要配置连接到主服务器的信息,包括主服务器的 IP 地址、复制用户的用户名和密码,以及要从哪个点开始复制的二进制日志文件名和位置。
  • 启动复制过程:在从服务器上执行 CHANGE MASTER TO 命令以指定主服务器的详情,然后启动复制进程。
  • 监控复制状态:使用 SHOW SLAVE STATUS\G 来检查从服务器的复制状态,确保 Slave_IO_RunningSlave_SQL_Running 都是 Yes

6.1.2 重点案例:使用 Python 设置 MySQL 主从复制

假设你负责一个在线商店的数据库管理工作,需要设置复制来增加数据的可用性和备份。

步骤

  1. 在主服务器上配置
  • 编辑 MySQL 配置文件(通常是 /etc/my.cnf/etc/mysql/mysql.conf.d/mysqld.cnf),启用二进制日志并指定服务器 ID。
[mysqld]
log_bin=mysql-bin
server_id=1
  • 重启 MySQL 服务使配置生效。
  • 创建复制用户。
CREATE USER 'replicator'@'%' IDENTIFIED BY 'password';
GRANT REPLICATION SLAVE ON *.* TO 'replicator'@'%';
FLUSH PRIVILEGES;
  1. 在从服务器上配置
  • 同样地编辑 MySQL 配置文件,指定一个唯一的服务器 ID。
[mysqld]
server_id=2
  • 重启 MySQL 服务。
  • 使用 Python 连接到从服务器的 MySQL 实例,并配置复制。
import mysql.connector
conn = mysql.connector.connect(host='slave_host', user='root', password='yourpassword')
cursor = conn.cursor()
cursor.execute(f"CHANGE MASTER TO MASTER_HOST='master_host', MASTER_USER='replicator', MASTER_PASSWORD='password', MASTER_LOG_FILE='mysql-bin.000001', MASTER_LOG_POS=  154;")
cursor.execute("START SLAVE;")

6.1.3 拓展案例 1:自动故障转移

假设主服务器突然宕机,你需要快速将从服务器提升为新的主服务器,同时保持业务的连续性。

  1. 在从服务器上停止复制进程,并提升为主服务器。
cursor.execute("STOP SLAVE;")
cursor.execute("RESET MASTER;")
  1. 更新应用配置,将数据库连接指向新的主服务器。

6.1.4 拓展案例 2:设置双主复制

在某些场景下,你可能需要两个数据库服务器互为主备,以实现高可用性。

  1. 在两个服务器上互相配置对方为主服务器,确保开启二进制日志并设置不同的 server_id
  2. 使用 Python 在两个服务器上互相执行 CHANGE MASTER TO,指定对方的详情。

通过以上案例,你不仅学会了如何使用 Python 来设置和管理 MySQL 的复制,还探索了如何在实际生产环境中应用复制来提高数据的可用性和灾难恢复能力。这些技能对于任何希望确保数据安全和业务连续性的数据库管理员来说都是宝贵的资产。


6.2 复制的类型和策略

在 MySQL 的世界里,复制不只是一个简单的数据复制过程。根据业务需求的不同,你可以选择不同类型的复制策略,每种策略都有其独特的优势和应用场景。

6.2.1 基础知识

  • 异步复制:这是 MySQL 复制的默认模式。在这种模式下,主服务器在更新自己的数据后不会等待从服务器确认就继续处理其他操作,这可能会导致主从服务器之间的数据延迟。
  • 半同步复制:在半同步复制中,主服务器在提交事务前至少需要一个从服务器发回确认,这样可以确保数据在主服务器和至少一个从服务器之间是一致的,减少了数据丢失的风险。
  • 组复制:这是 MySQL 5.7 版本引入的一个新特性,提供了一种基于组成员资格的复制方式,可以实现多主复制,所有的写操作都会被复制到组内的其他成员,确保数据的一致性。

6.2.2 重点案例:使用 Python 设置半同步复制

假设你的在线商店数据非常重要,不能容忍任何数据丢失,你决定使用半同步复制来确保数据的一致性。

步骤

  1. 首先,确保主服务器和至少一个从服务器安装了半同步复制插件。
INSTALL PLUGIN rpl_semi_sync_master SONAME 'semisync_master.so';
INSTALL PLUGIN rpl_semi_sync_slave SONAME 'semisync_slave.so';
  1. 在主服务器上启用半同步复制。
SET GLOBAL rpl_semi_sync_master_enabled = 1;
SET GLOBAL rpl_semi_sync_master_timeout = 1000;  -- 1 second
  1. 在从服务器上启用半同步复制。
SET GLOBAL rpl_semi_sync_slave_enabled = 1;
  1. 使用 Python 脚本来自动化这一过程,假设你已经建立了与数据库的连接。
import mysql.connector
def configure_semi_sync(host, user, password, is_master=True):
    conn = mysql.connector.connect(host=host, user=user, password=password)
    cursor = conn.cursor()
    if is_master:
        cursor.execute("INSTALL PLUGIN rpl_semi_sync_master SONAME 'semisync_master.so'")
        cursor.execute("SET GLOBAL rpl_semi_sync_master_enabled = 1")
        cursor.execute("SET GLOBAL rpl_semi_sync_master_timeout = 1000")
    else:
        cursor.execute("INSTALL PLUGIN rpl_semi_sync_slave SONAME 'semisync_slave.so'")
        cursor.execute("SET GLOBAL rpl_semi_sync_slave_enabled = 1")
    conn.close()
# Configure the master
configure_semi_sync('master_host', 'root', 'master_password', is_master=True)
# Configure the slave
configure_semi_sync('slave_host', 'root', 'slave_password', is_master=False)

6.2.3 拓展案例 1:监控半同步复制的延迟

为了确保你的半同步复制运行顺畅,监控复制延迟是非常重要的。

使用 Python 查询 SHOW SLAVE STATUS 并解析 Seconds_Behind_Master 来监控延迟。

conn = mysql.connector.connect(host='slave_host', user='root', password='yourpassword')
cursor = conn.cursor()
cursor.execute("SHOW SLAVE STATUS")
slave_status = cursor.fetchone()
delay = slave_status[cursor.column_names.index('Seconds_Behind_Master')]
print(f"Current replication delay: {delay} seconds")

6.2.4 拓展案例 2:动态切换复制类型

在某些情况下,你可能需要根据负载动态切换复制类型,比如从半同步复制切换回异步复制以减少写操作的延迟。

使用 Python 脚本来动态调整复制类型。

def switch_replication_mode(host, user, password, mode='ASYNC'):
    conn = mysql.connector.connect(host=host, user=user, password=password)
    cursor = conn.cursor()
    if mode == 'SEMI_SYNC':
        cursor.execute("SET GLOBAL rpl_semi_sync_master_enabled = 1")
    else:
        cursor.execute("SET GLOBAL rpl_semi_sync_master_enabled = 0")
    conn.close()
# Switch to asynchronous replication
switch_replication_mode('master_host', 'root', 'master_password', mode='ASYNC')

通过以上案例,你不仅学会了如何根据业务需求选择合适的复制策略,还掌握了使用 Python 来配置和监控 MySQL 复制的技巧,确保你的数据库复制策略既灵活又可靠。


6.3 解决复制冲突

在 MySQL 复制过程中,冲突是不可避免的。它们通常发生在多主复制环境中,或者当从服务器试图应用已经在主服务器上更改过的数据时。有效地管理和解决这些冲突对于保持数据一致性和系统稳定性至关重要。

6.3.1 基础知识

复制冲突主要包括两类:

  • 主键冲突:当两个或更多的服务器试图插入具有相同主键的记录时发生。
  • 数据不一致:当不同的更改被应用到同一数据集上,导致数据在主从服务器之间不一致。

解决复制冲突的策略包括:

  • 冲突检测与解决机制:一些高级复制技术(如 MySQL Group Replication)内置了冲突检测与解决机制。
  • 避免写入冲突:通过应用设计或数据库架构来避免潜在的写入冲突。
  • 手动解决冲突:通过审查冲突数据并手动解决。

6.3.2 重点案例:使用 Python 检测并解决主键冲突

假设你在一个多主复制环境中工作,需要确保数据的一致性,你可以使用 Python 来帮助检测和解决可能的主键冲突。

步骤

  1. 编写一个 Python 脚本来查询可能的主键冲突。
import mysql.connector
from mysql.connector import Error
try:
    conn = mysql.connector.connect(host='host', user='user', password='password', database='dbname')
    cursor = conn.cursor()
    cursor.execute("SELECT id, COUNT(*) c FROM tablename GROUP BY id HAVING c > 1")
    for (id, count) in cursor:
        print(f"Duplicate ID: {id}, Count: {count}")
except Error as e:
    print(f"Error: {e}")
finally:
    if conn.is_connected():
        cursor.close()
        conn.close()
  1. 手动或自动解决检测到的冲突。这可能包括删除重复的记录或合并数据。

6.3.3 拓展案例 1:自动解决数据不一致

在某些情况下,你可能需要自动解决由于网络分区或其他问题导致的数据不一致问题。

  1. 使用 Python 定期检查并修复数据不一致。
# 假设有两个连接,conn_master 和 conn_slave 分别连接到主和从服务器
cursor_master = conn_master.cursor()
cursor_slave = conn_slave.cursor()
# 检查并解决数据不一致
cursor_master.execute("SELECT id, data FROM tablename")
master_data = cursor_master.fetchall()
for (id, data) in master_data:
    cursor_slave.execute("SELECT data FROM tablename WHERE id = %s", (id,))
    slave_data = cursor_slave.fetchone()
    if slave_data is None or slave_data[0] != data:
        print(f"Data inconsistency detected for ID: {id}. Updating slave...")
        cursor_slave.execute("REPLACE INTO tablename (id, data) VALUES (%s, %s)", (id, data))
        conn_slave.commit()

6.3.4 拓展案例 2:使用 Python 实现自定义冲突解决策略

在一些高级应用场景中,可能需要根据业务逻辑实现自定义的冲突解决策略。在一些高级应用场景中,可能需要根据业务逻辑实现自定义的冲突解决策略。

  1. 设计一个策略来决定当冲突发生时保留哪条记录。
# 假设基于最新的时间戳来解决冲突
cursor.execute("SELECT id, MAX(updated_at) FROM tablename GROUP BY id HAVING COUNT(*) > 1")
for (id, latest) in cursor:
    cursor.execute("DELETE FROM tablename WHERE id = %s AND updated_at < %s", (id, latest))
    print(f"Resolved conflict for ID: {id}, keeping record with latest updated_at: {latest}")
    conn.commit()

通过上述案例,你不仅学习了如何检测和解决 MySQL 复制中的常见冲突类型,还探索了如何利用 Python 实现自动化和自定义的冲突解决策略,从而保证了数据的一致性和系统的稳定性。这些技能对于管理复杂的数据库系统和确保业务连续性至关重要。

相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
20天前
|
负载均衡 算法 关系型数据库
大数据大厂之MySQL数据库课程设计:揭秘MySQL集群架构负载均衡核心算法:从理论到Java代码实战,让你的数据库性能飙升!
本文聚焦 MySQL 集群架构中的负载均衡算法,阐述其重要性。详细介绍轮询、加权轮询、最少连接、加权最少连接、随机、源地址哈希等常用算法,分析各自优缺点及适用场景。并提供 Java 语言代码实现示例,助力直观理解。文章结构清晰,语言通俗易懂,对理解和应用负载均衡算法具有实用价值和参考价值。
大数据大厂之MySQL数据库课程设计:揭秘MySQL集群架构负载均衡核心算法:从理论到Java代码实战,让你的数据库性能飙升!
|
2月前
|
关系型数据库 MySQL Java
【YashanDB知识库】原生mysql驱动配置连接崖山数据库
【YashanDB知识库】原生mysql驱动配置连接崖山数据库
【YashanDB知识库】原生mysql驱动配置连接崖山数据库
|
20天前
|
存储 关系型数据库 MySQL
大数据新视界 --面向数据分析师的大数据大厂之 MySQL 基础秘籍:轻松创建数据库与表,踏入大数据殿堂
本文详细介绍了在 MySQL 中创建数据库和表的方法。包括安装 MySQL、用命令行和图形化工具创建数据库、选择数据库、创建表(含数据类型介绍与选择建议、案例分析、最佳实践与注意事项)以及查看数据库和表的内容。文章专业、严谨且具可操作性,对数据管理有实际帮助。
大数据新视界 --面向数据分析师的大数据大厂之 MySQL 基础秘籍:轻松创建数据库与表,踏入大数据殿堂
|
9天前
|
SQL 关系型数据库 MySQL
MySQL下载安装全攻略!小白也能轻松上手,从此数据库不再难搞!
这是一份详细的MySQL安装与配置教程,适合初学者快速上手。内容涵盖从下载到安装的每一步操作,包括选择版本、设置路径、配置端口及密码等。同时提供基础操作指南,如数据库管理、数据表增删改查、用户权限设置等。还介绍了备份恢复、图形化工具使用和性能优化技巧,帮助用户全面掌握MySQL的使用方法。附带常见问题解决方法,保姆级教学让你无忧入门!
MySQL下载安装全攻略!小白也能轻松上手,从此数据库不再难搞!
|
28天前
|
负载均衡 算法 关系型数据库
大数据新视界--大数据大厂之MySQL数据库课程设计:MySQL集群架构负载均衡故障排除与解决方案
本文深入探讨 MySQL 集群架构负载均衡的常见故障及排除方法。涵盖请求分配不均、节点无法响应、负载均衡器故障等现象,介绍多种负载均衡算法及故障排除步骤,包括检查负载均衡器状态、调整算法、诊断修复节点故障等。还阐述了预防措施与确保系统稳定性的方法,如定期监控维护、备份恢复策略、团队协作与知识管理等。为确保 MySQL 数据库系统高可用性提供全面指导。
|
1月前
|
SQL 关系型数据库 MySQL
大数据新视界--大数据大厂之MySQL数据库课程设计:MySQL 数据库 SQL 语句调优方法详解(2-1)
本文深入介绍 MySQL 数据库 SQL 语句调优方法。涵盖分析查询执行计划,如使用 EXPLAIN 命令及理解关键指标;优化查询语句结构,包括避免子查询、减少函数使用、合理用索引列及避免 “OR”。还介绍了索引类型知识,如 B 树索引、哈希索引等。结合与 MySQL 数据库课程设计相关文章,强调 SQL 语句调优重要性。为提升数据库性能提供实用方法,适合数据库管理员和开发人员。
|
1月前
|
SQL 存储 分布式数据库
分布式存储数据恢复—hbase和hive数据库数据恢复案例
分布式存储数据恢复环境: 16台某品牌R730xd服务器节点,每台服务器节点上有数台虚拟机。 虚拟机上部署Hbase和Hive数据库。 分布式存储故障: 数据库底层文件被误删除,数据库不能使用。要求恢复hbase和hive数据库。
78 12
|
1月前
|
关系型数据库 MySQL 大数据
大数据新视界--大数据大厂之MySQL 数据库课程设计:MySQL 数据库 SQL 语句调优的进阶策略与实际案例(2-2)
本文延续前篇,深入探讨 MySQL 数据库 SQL 语句调优进阶策略。包括优化索引使用,介绍多种索引类型及避免索引失效等;调整数据库参数,如缓冲池、连接数和日志参数;还有分区表、垂直拆分等其他优化方法。通过实际案例分析展示调优效果。回顾与数据库课程设计相关文章,强调全面认识 MySQL 数据库重要性。为读者提供综合调优指导,确保数据库高效运行。
|
2月前
|
关系型数据库 MySQL 数据库连接
docker拉取MySQL后数据库连接失败解决方案
通过以上方法,可以解决Docker中拉取MySQL镜像后数据库连接失败的常见问题。关键步骤包括确保容器正确启动、配置正确的环境变量、合理设置网络和权限,以及检查主机防火墙设置等。通过逐步排查,可以快速定位并解决连接问题,确保MySQL服务的正常使用。
464 82
|
4月前
|
关系型数据库 MySQL 数据库连接
数据库连接工具连接mysql提示:“Host ‘172.23.0.1‘ is not allowed to connect to this MySQL server“
docker-compose部署mysql8服务后,连接时提示不允许连接问题解决