【MySQL】你还不会在Docker下安装MySQL主备吗?

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: 那什么时候就要开始考虑搭建主备架构呢, 一方面是随着业务增长,读写请求已经到达了一定的瓶颈时,我们需要考虑,另一方面为了保证数据的完整性,以保证主宕机的时候,可以快速切换。

前言

大家好,我是小郭,在前面的文章中,我们在Docker下安装了MySQL,那什么时候就要开始考虑搭建主备架构呢, 一方面是随着业务增长,读写请求已经到达了一定的瓶颈时,我们需要考虑,另一方面为了保证数据的完整性,以保证主宕机的时候,可以快速切换。

一、主备什么,为什么要用主备?

主备通俗的来说,就是数据复制。建立一个备库,和主数据库一模一样的数据库环境。 那主备能给我们做什么呢?

  1. 准实时备份,保证数据的完整性。当主宕机后,可以进行快速切换。
    当主库宕机时,需要通过中间件(mycat)把备库切换为主库,来实现高可用。
  2. 做读写分离,将读写压力分散。
    当读写平衡时候,主机主要用来写操作,备库进行读操作。
    如果发现备库读的压力太大,那我们就需要扩展出新的节点。
  3. 进行业务扩展。

二、主备的流程

原理:是基于二进制日志(binlog)进行数据增量同步。

网络异常,图片无法展示
|

  1. Master 服务器会把数据变更产生的二进制日志(bin log)通过 Dump 线程发送给 Slave 服务器。
  2. Slave 服务器中的 I/O 线程负责接受二进制日志,并保存为中继日志(relay log)。
  3. Slave再起一个线程读取中继日志(relay log),并在Slave执行,完成同步。

三、在Docker下搭建主备环境

MySQL笔记 | 2.Docker下搭建MySQL&查看BinLog文件

步骤一:新建一个备库

我们在之间的文章中已经在Docker中搭建了一个3306的数据环境,为了满足主备的需要。

我们在搭建一个备库的环境。

docker run -p 3307:3306 --name mysql_slave 
-v /opt/mysql/slave/conf:/etc/mysql/conf.d 
-v /opt/mysql/slave/logs:/logs 
-v /opt/mysql/slave/data:/var/lib/mysql 
-e MYSQL_ROOT_PASSWORD=123456 -d mysql

可以选择在服务器上新建data、logs、conf来映射docker里面的文件,这样 我们就可以在外面修改信息了。

步骤二:查看是否安装成功

[root@。。。 /]# docker ps 
CONTAINER ID   IMAGE          COMMAND                  CREATED         STATUS         PORTS                                                  NAMES
8b3fe3977bed   mysql          "docker-entrypoint.s…"   7 seconds ago   Up 5 seconds   33060/tcp, 0.0.0.0:3307->3306/tcp, :::3307->3306/tcp   mysql_slave
f7e9a7e047ac   mysql          "docker-entrypoint.s…"   6 days ago      Up 6 days      0.0.0.0:3306->3306/tcp, :::3306->3306/tcp, 33060/tcp   mysql
935090dd3061   apachephp:v1   "/usr/bin/supervisord"   8 days ago      Up 8 days      0.0.0.0:8080->80/tcp, :::8080->80/tcp                  vigorous_borg
ff7f2bea7cc3   e121d5f99e1e   "/usr/bin/supervisord"   8 days ago      Up 8 days      80/tcp                                                 apache

没什么问题,确定了有两个端口的环境,3306和3307.

步骤三:查看是不是得到了不同的IP

[root@iZ8vb7xgouhcfciakm9plqZ /]# docker inspect --format='{{.NetworkSettings.IPAddress}}' f7e9a7e047ac
172.17.0.4
[root@iZ8vb7xgouhcfciakm9plqZ /]# docker inspect --format='{{.NetworkSettings.IPAddress}}' 8b3fe3977bed
172.17.0.5

已经分配了 两个Ip,Master 服务器地址是 172.17.0.4 ,Slave 服务器地址是 172.17.0.5,MySQL 的端口号都为 3306。

步骤四:进行主环境的my.cnf文件配置修改

进入Bash

[root@。。。 /]# docker exec -it f7e9a7e047ac /bin/bash
root@f7e9a7e047ac:/# mysql -uroot -p

修改my.cnf,在这里面有一些需要注意的细节

[mysqld]
## 设置server_id,一般设置为IP,同一局域网内注意要唯一,如果相同,则它们之间不能设定为主备关系
server_id=100  
## 复制过滤:也就是指定哪个数据库不用同步(mysql库一般不同步)
binlog-ignore-db=mysql  
## 开启二进制日志功能,可以随便取,最好有含义(关键就是这里了)
log-bin=edu-mysql-bin  
## 为每个session 分配的内存,在事务过程中用来存储二进制日志的缓存
binlog_cache_size=1M  
## 主从复制的格式(mixed,statement,row,默认格式是statement)
binlog_format=mixed  
## 二进制日志自动删除/过期的天数。默认值为0,表示不自动删除。
expire_logs_days=7  
## 跳过主从复制中遇到的所有错误或指定类型的错误,避免slave端复制中断。
## 如:1062错误是指一些主键重复,1032错误是因为主从数据库数据不一致
slave_skip_errors=1062  

第一次打开my.cnf,可能会出现vi: command not found

root@8b3fe3977bed:/etc/mysql# vi my.cnf bash: vi: command not found

apt-get update
apt-get install vim

步骤五:创建一个salve的用户

创建数据同步slave用户,为了让备库来监听

mysql> CREATE USER 'slave'@'%' IDENTIFIED BY '123456';
Query OK, 0 rows affected (0.02 sec)
mysql> GRANT REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'slave'@'%';   
Query OK, 0 rows affected (0.00 sec)

步骤六:进入备库进行,相似的配置修改 同样的步骤操作slave 修改my.cnf配置

[mysqld]
## 设置server_id,一般设置为IP,注意要唯一
server_id=101  
## 复制过滤:也就是指定哪个数据库不用同步(mysql库一般不同步)
binlog-ignore-db=mysql  
## 开启二进制日志功能,以备Slave作为其它Slave的Master时使用
log-bin=edu-mysql-slave1-bin  
## 为每个session 分配的内存,在事务过程中用来存储二进制日志的缓存
binlog_cache_size=1M  
## 主从复制的格式(mixed,statement,row,默认格式是statement)
binlog_format=mixed  
## 二进制日志自动删除/过期的天数。默认值为0,表示不自动删除。
expire_logs_days=7  
## 跳过主从复制中遇到的所有错误或指定类型的错误,避免slave端复制中断。
## 如:1062错误是指一些主键重复,1032错误是因为主从数据库数据不一致
slave_skip_errors=1062  
## relay_log配置中继日志
relay_log=edu-mysql-relay-bin  
## log_slave_updates表示slave将复制事件写进自己的二进制日志
log_slave_updates=1  
## 防止改变数据(除了特殊的线程)
read_only=1  

结束后重启容器.

步骤七:主备建立关系(核心步骤)

核心步骤成败在此一举了 Master:

mysql> show master status;
+----------------------+----------+--------------+------------------+-------------------+
| File                 | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+----------------------+----------+--------------+------------------+-------------------+
| edu-mysql-bin.000001 |      711 |              | mysql            |                   |
+----------------------+----------+--------------+------------------+-------------------+
1 row in set (0.00 sec)

看一下File和Position的值。 !!!重点

我们刚刚查询到了IP用上了。 在从节点上执行

mysql> change master to master_host='172.17.0.4', master_user='slave', master_password='123456', master_port=3306, master_log_file='edu-mysql-bin.000001', master_log_pos=711, master_connect_retry=30;
Query OK, 0 rows affected, 10 warnings (0.04 sec)

术语解释:

  • master_host: Master 的IP地址
  • master_user: 在 Master 中授权的用于数据同步的用户
  • master_password: 同步数据的用户的密码
  • master_port: Master 的数据库的端口号
  • master_log_file: 指定 Slave 从哪个日志文件开始复制数据,即上文中提到的 File 字段的值
  • master_log_pos: 从哪个 Position 开始读,即上文中提到的 Position 字段的值
  • master_connect_retry: 当重新建立主从连接时,如果连接失败,重试的时间间隔,单位是秒,默认是60秒。

看下操作成功的结果,等待主机发送事件

mysql> show slave status \G;
*************************** 1. row ***************************
               Slave_IO_State: Waiting for master to send event
                  Master_Host: 172.17.0.4
                  Master_User: slave
                  Master_Port: 3306
                Connect_Retry: 30
              Master_Log_File: edu-mysql-bin.000003
          Read_Master_Log_Pos: 323
               Relay_Log_File: edu-mysql-relay-bin.000002
                Relay_Log_Pos: 328
        Relay_Master_Log_File: edu-mysql-bin.000003
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes
            ...
             Master_Server_Id: 100
                  Master_UUID: eb9ceac6-ca92-11eb-8f75-0242ac110004
             Master_Info_File: mysql.slave_master_info
                    SQL_Delay: 0
          SQL_Remaining_Delay: NULL
      Slave_SQL_Running_State: Slave has read all relay log; waiting for more updates
           Master_Retry_Count: 86400
1 row in set, 1 warning (0.00 sec)

遇到问题

  1. Slave_IO_State:为空,可能是slave未执行start slave;
  2. 重置Matser操作
  1. 停止已经启动的绑定,stop slave
  2. 重置绑定,reset master
  3. 执行复制主机命令,change master to master_host ...

异常:Authentication plugin 'caching_sha2_password' reported error: Authentication requires secure connection.

Slave_IO_State: Connecting to master
                  Master_Host: 172.17.0.4
                  Master_User: slave
                  Master_Port: 3306
                Connect_Retry: 30
              Master_Log_File: edu-mysql-bin.000001
          Read_Master_Log_Pos: 711
               Relay_Log_File: edu-mysql-relay-bin.000002
                Relay_Log_Pos: 4
        Relay_Master_Log_File: edu-mysql-bin.000001
             Slave_IO_Running: Connecting
            Slave_SQL_Running: Yes
            Last_IO_Error: error connecting to master 'slave@172.17.0.4:3306' - retry-time: 30 retries: 2 message: Authentication plugin 'caching_sha2_password' reported error: Authentication requires secure connection.

解决方式: 错误原因:密码加密方式不支持, 在主服务器执行以下命令: ALTER USER ‘slave’@’%’ IDENTIFIED WITH mysql_native_password BY '123456'; FLUSH PRIVILEGES;

四、主备数据不一致,怎么办?

BinLog类型的区别

网络异常,图片无法展示
|

解决数据丢失问题

首先异步的同步机制,会造成备库的数据丢失,造成主备不一致

可以考虑采用半同步复制方式,确定Binlog日志复制到备库,才告诉客户端写入成功,来确保数据不丢失。

半同步的搭建需要依赖半同步插件,来后续的文章中,我们再来说说。

利用GTID模式强化数据库的主备一致

配置:

-- 是否开启GTID复制功能
gtid_mode = on
-- 启动强制GTID的一致性,自动根据GTID进行同步数据,无需查找File和Pos点
enforce_gtid_consistency = 1
-- 5.7.6以上中默认TRUE
binlog_gtid_simple_recovery = 1
-- 默认开启,启动自动relay log恢复
relay_log_recovery = ON
-- 将master.info保存在表中
master_info_repository = TABLE 
-- 将relay.info保存在表中
relay_log_info_repository = TABLE

五、延迟优化

网络异常,图片无法展示
|

主备服务器时间,可能会因为某个事务,在数据库执行时间过长,而出现了数据延迟,我们在进行数据操作的时候,尽量避免大事务的产生,将大事务切分为小事务去执行。

我们可以升级MySQl的版本,在大于5.6之后的版本中,采用了并行复制,并行的操作,很大程度上提高了性能,减小延迟。 再加上一个延迟监控的保险,建立心跳表,去监听主从延迟的时间。

六、进行高可用架构的设计

1. 高可用设计主要分为了两种

1. 无状态,只需要进行故障转移或者剔除,常见的有NGINX
2. 有状态,我们需要从业务和数据维度去考虑

网络异常,图片无法展示
|

2.数据核对

高可用的设计,并不能保证万无一失,在最后我们需要去做一些兜底的操作,数据核对就很关键了

  1. 在业务上,开发需要去做数据对账,比如,销售情况和总数是否相等
  2. 在数据上,DBA可以做数据抽样对比,来看是否一致

网络异常,图片无法展示
|

总结

最后一图总结

网络异常,图片无法展示
|

相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
9天前
|
SQL 关系型数据库 MySQL
go语言数据库中mysql驱动安装
【11月更文挑战第2天】
23 4
|
15天前
|
关系型数据库 MySQL Linux
在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤,并与使用 RPM 包安装进行了对比
本文介绍了在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤,并与使用 RPM 包安装进行了对比。通过具体案例,读者可以了解如何准备环境、下载源码、编译安装、配置服务及登录 MySQL。编译源码安装虽然复杂,但提供了更高的定制性和灵活性,适用于需要高度定制的场景。
49 3
|
15天前
|
关系型数据库 MySQL Docker
docker环境下mysql镜像启动后权限更改问题的解决
在Docker环境下运行MySQL容器时,权限问题是一个常见的困扰。通过正确设置目录和文件的权限,可以确保MySQL容器顺利启动并正常运行。本文提供了多种解决方案,包括在主机上设置正确的权限、使用Dockerfile和Docker Compose进行配置、在容器启动后手动更改权限以及使用 `init`脚本自动更改权限。根据实际情况选择合适的方法,可以有效解决MySQL容器启动后的权限问题。希望本文对您在Docker环境下运行MySQL容器有所帮助。
29 1
|
16天前
|
关系型数据库 MySQL Linux
在 CentOS 7 中通过编译源码安装 MySQL 数据库的详细步骤,并与使用 RPM 包安装进行了对比。
本文介绍了在 CentOS 7 中通过编译源码安装 MySQL 数据库的详细步骤,并与使用 RPM 包安装进行了对比。内容涵盖准备工作、下载源码、编译安装、配置服务、登录设置及实践心得,帮助读者根据需求选择最适合的安装方法。
31 2
|
17天前
|
存储 SQL 关系型数据库
2024Mysql And Redis基础与进阶操作系列(1)作者——LJS[含MySQL的下载、安装、配置详解步骤及报错对应解决方法]
Mysql And Redis基础与进阶操作系列(1)之[MySQL的下载、安装、配置详解步骤及报错对应解决方法]
|
18天前
|
关系型数据库 MySQL Linux
在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤,包括准备工作、下载源码、编译安装、配置 MySQL 服务、登录设置等。
本文介绍了在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤,包括准备工作、下载源码、编译安装、配置 MySQL 服务、登录设置等。同时,文章还对比了编译源码安装与使用 RPM 包安装的优缺点,帮助读者根据需求选择最合适的方法。通过具体案例,展示了编译源码安装的灵活性和定制性。
60 2
|
18天前
|
Prometheus 监控 Cloud Native
基于Docker安装Grafana和Prometheus
Grafana 是一款用 Go 语言开发的开源数据可视化工具,支持数据监控和统计,并具备告警功能。通过 Docker 部署 Grafana 和 Prometheus,可实现系统数据的采集、展示和告警。默认登录用户名和密码均为 admin。配置 Prometheus 数据源后,可导入主机监控模板(ID 8919)进行数据展示。
52 2
|
20天前
|
消息中间件 Linux RocketMQ
在Red Hat Enterprise Linux 9上使用Docker快速安装并部署
通过以上步骤,你可以在Red Hat Enterprise Linux 9上使用Docker快速安装并部署RocketMQ。这种方法不仅简化了安装过程,还提供了一个灵活的环境来管理和扩展消息队列系统。RocketMQ作为一款高性能的分布式消息系统,通过Docker可以实现快速部署和高效管理。
48 2
|
21天前
|
消息中间件 Linux RocketMQ
在Red Hat Enterprise Linux 9上使用Docker快速安装并部署
通过以上步骤,你可以在Red Hat Enterprise Linux 9上使用Docker快速安装并部署RocketMQ。这种方法不仅简化了安装过程,还提供了一个灵活的环境来管理和扩展消息队列系统。RocketMQ作为一款高性能的分布式消息系统,通过Docker可以实现快速部署和高效管理。
29 3
|
3天前
|
运维 关系型数据库 MySQL
安装MySQL8数据库
本文介绍了MySQL的不同版本及其特点,并详细描述了如何通过Yum源安装MySQL 8.4社区版,包括配置Yum源、安装MySQL、启动服务、设置开机自启动、修改root用户密码以及设置远程登录等步骤。最后还提供了测试连接的方法。适用于初学者和运维人员。
29 0