Mysql高可用集群--MHA

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,高可用系列 2核4GB
简介: Mysql高可用集群--MHA

什么是 MHA

MHA(Master High Availability) 是自动的 master 故障转移和 slave 提升的软件包。它是基于标准的 MySQL 复制(异步/半同步). MHA 有两部分组成:MHA Manager(管理节点)和 MHA
Node(数据节点)。 MHA Manager 可以单独部署在一台独立机器上管理多个 master-slave 集群,也可以部署在一台
slave 上。MHA Manager 探测集群的 node 节点,当发现 master 出现故障的时候,它可以自动将具有最新数据的
slave 提升为新的 master,然后将所有其它的 slave 指向新的 master。整个故障转移过程对应用程序是透明的。 MHA
node 运行在每台 MySQL 服务器上(master/slave/manager),它通过监控具备解析和清理 logs
功能的脚本来加快故障转移的过程。 作为前提条件,应先配置 MySQL 复制,并设置 SSH 公钥免密码登录。下面以 CentOS
为例来说明,最好先安装 EPEL( http://fedoraproject.org/wiki/EPEL),不然 YUM
可能找不到某些软件包。MHA 由 Node 和 Manager 组成,Node 运行在每一台 MySQL 服务器上, 也就是说,不管是
MySQL 主服务器,还是 MySQL 从服务器,都要安装 Node,而 Manager
通常运行在独立的服务器上,但如果硬件资源吃紧,也可以用一台 MySQL 从服务器来 兼职 Manager 的角色。

MHA 工作原理和工具包

工作原理

从宕机崩溃的 master 保存二进制日志事件(binlog events) -识别含有最新更新的 slave
应用差异的中继日志(relay log)到其它 slave 应用从 master 保存的二进制日志事件(binlog events)
-提升一个 slave 为新 master 使其它的 slave 连接新的 master 进行复制

Manager 工具

masterha_check_ssh : 检查 MHA 的 SSH 配置 masterha_check_repl : 检查 MySQL 复制
masterha_manager : 启动 MHA masterha_check_status : 检测当前 MHA 运行状态
masterha_master_monitor : 监测 master 是否宕机 masterha_master_switch :
控制故障转移(自动或手动) masterha_conf_host : 添加或删除配置的 server 信息

Node 工具(这些工具通常由 MHA Manager 的脚本触发,无需人手操作)

save_binary_logs : 保存和复制 master 的二进制日志 apply_diff_relay_logs :
识别差异的中继日志事件并应用于其它 slave filter_mysqlbinlog : 去除不必要的 ROLLBACK 事件(MHA
已不再使用这个工具) purge_relay_logs : 清除中继日志(不会阻塞 SQL 线程)

MHA优点

a、自动故障转移快,秒级就能完成故障切换
b、可以结合半同步复制,保证主从数据的一致
c、manager节点可以管理多个MHA集群系统
d、在运行过程中,manager节点只是周期性的发送ICMP包,对性能的影响极低
e、只要mysql 复制技术支持的引擎,MHA就支持
f.MHA加强了数据的安全性
g.MHA在进行故障转移时更不易产生数据丢失

部署Mysql一主两从(做好主从可忽略)

部署MYSQL一主一从

环境准备

IP 版本 服务
192.168.1.40 CentOS Linux release 7.6.1810 (Core) MHA-manager
192.168.1.10(master) CentOS Linux release 7.6.1810 (Core) mysql(主)、MHA-node
192.168.1.20(slave1) CentOS Linux release 7.6.1810 (Core) mysql(从)、MHA-node
192.168.1.30(slave2) CentOS Linux release 7.6.1810 (Core) mysql(从)、MHA-node

此次实验centos是最小化安装 四台主机安装一些命令 并关闭防火墙

systemctl stop firewalld && yum -y install net-tools vim wget git make cmake gcc gcc-c++

修改主机名并做免密登录

``
master操作
``

[root@localhost ~]# vim /etc/hosts
#添加
192.168.1.10 master
192.168.1.20 slave1
192.168.1.30 slave2
[root@localhost ~]# ssh-keygen
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa): 
Created directory '/root/.ssh'.
Enter passphrase (empty for no passphrase): 
Enter same passphrase again: 
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.
The key fingerprint is:
SHA256:lU9My4J5QGSrEV8wvMfN61Fxu9jIyCX6+WdxjYTykp8 root@localhost.localdomain
The key's randomart image is:
+---[RSA 2048]----+
|      .+B.. .    |
|       +.B = .. .|
|      . =o=o=. o.|
|       o.o+=+.o. |
|      . S.o+*++.o|
|         .oo++.+o|
|          .+.o  o|
|           oE  o |
|            ..o  |
+----[SHA256]-----+
[root@master ~]# ssh-copy-id -i slave1
/usr/bin/ssh-copy-id: INFO: Source of key(s) to be installed: "/root/.ssh/id_rsa.pub"
The authenticity of host 'slave1 (192.168.1.20)' can't be established.
ECDSA key fingerprint is SHA256:dnnDcAA2qVnA31i7mtr9LYJmH2veu2+r4t+19qUSqqw.
ECDSA key fingerprint is MD5:0e:f3:c1:3c:dc:5f:12:66:ae:c9:01:51:66:db:bb:02.
Are you sure you want to continue connecting (yes/no)? yes
/usr/bin/ssh-copy-id: INFO: attempting to log in with the new key(s), to filter out any that are already installed
/usr/bin/ssh-copy-id: INFO: 1 key(s) remain to be installed -- if you are prompted now it is to install the new keys
root@slave1's password: 

Number of key(s) added: 1

Now try logging into the machine, with:   "ssh 'slave1'"
and check to make sure that only the key(s) you wanted were added.
[root@master ~]# ssh-copy-id -i slave2
/usr/bin/ssh-copy-id: INFO: Source of key(s) to be installed: "/root/.ssh/id_rsa.pub"
The authenticity of host 'slave2 (192.168.1.30)' can't be established.
ECDSA key fingerprint is SHA256:xltTmad7PHB4XORvNjSpTaA4hdjQmix+o3VHfYgwuRE.
ECDSA key fingerprint is MD5:52:f6:2c:cc:d4:75:ce:06:c6:c0:1e:18:7c:4e:2c:73.
Are you sure you want to continue connecting (yes/no)? yes
/usr/bin/ssh-copy-id: INFO: attempting to log in with the new key(s), to filter out any that are already installed
/usr/bin/ssh-copy-id: INFO: 1 key(s) remain to be installed -- if you are prompted now it is to install the new keys
root@slave2's password: 

Number of key(s) added: 1

Now try logging into the machine, with:   "ssh 'slave2'"
and check to make sure that only the key(s) you wanted were added.

[root@localhost ~]# hostname master
[root@localhost ~]# bash
[root@master ~]# 
[root@master ~]# scp /etc/hosts slave1:/etc/hosts
hosts                                                    100%  218   174.0KB/s   00:00    
[root@master ~]# scp /etc/hosts slave2:/etc/hosts
hosts                                                    100%  218   117.7KB/s   00:00    

``
slave1操作
``

[root@localhost ~]# hostname slave1
[root@localhost ~]# bash
[root@slave1 ~]# ssh-copy-id -i master
[root@slave1 ~]# ssh-copy-id -i slave2

``
slave2操作
``

[root@localhost ~]# hostname slave2
[root@localhost ~]# bash
[root@slave2 ~]# ssh-copy-id -i master
[root@slave2 ~]# ssh-copy-id -i slave1

``
四台主机
``
关防火墙/沙盒

systemctl stop firewalld && setenforce 0

先进行安装MYSQL
1.安装MySQL的yum源

wget http://dev.mysql.com/get/mysql57-community-release-el7-11.noarch.rpm
yum -y install mysql57-community-release-el7-11.noarch.rpm

2.安装完成,查看是否安装成功

yum repolist enabled | grep mysql.*

3.可以进行安装mysql了

yum install mysql-community-server

4.安装完成后就可以启动mysql了

systemctl start mysqld.service

5.获取随机密码

grep 'temporary password' /var/log/mysqld.log

6.如果想要设置自己的密码简单的话 ,它自带密码检查机制不让你设置简单的进行sql输入设置

mysql -uroot -p
password:刚获取的随机密码
修改默认密码复杂难度
mysql>set global validate_password_policy=0;#设置密码检查策略为0
mysql>set global validate_password_length=1;#设置密码的长度为1

7.进行修改数据库密码

set password for 用户名 @localhost = password('新密码');

8.至此MySQL安装完毕

进行主从复制的设置修改配置文件

配置Master主库机器

`开启binlog
设置mysql的唯一编号(mysql5.7即更高版本新加参数), 和开启binlog日志
输入vi /etc/my.cnf 进入配置文件,按Insert键进入编辑模式,添加如下参数
server-id=1 (机器的唯一标识)
log-bin=/var/lib/mysql/mysql-bin (开启binlog)`

vim /etc/my.cnf

在这里插入图片描述

进行mysql重启

systemctl restart mysqld

进入mysql目录查看binlog是否开启成功

在这里插入图片描述
进入MySQL创建用户并授权

mysql> grant replication slave on *.* to 'slave'@'192.168.1.%' identified by '123.com';
Query OK, 0 rows affected, 1 warning (0.00 sec)

配置Slave从库机器

slave1

在这里插入图片描述

slave2

在这里插入图片描述
重启MySQL服务

systemctl restart mysqld

``
查看主服务器状态
``

mysql> show master status;
+-------------------+----------+--------------+------------------+-------------------+
| File              | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+----------+--------------+------------------+-------------------+
| master-bin.000006 |     1049 |              |                  |                   |
+-------------------+----------+--------------+------------------+-------------------+
1 row in set (0.00 sec)

``
配置从库与主库同步配置
``
slave1、salve2

mysql> CHANGE MASTER TO MASTER_HOST='192.168.1.10',
    -> MASTER_USER='slave',
    -> MASTER_PASSWORD='123.com',
    -> MASTER_LOG_FILE='master-bin.000006',
    -> MASTER_LOG_POS=1049;
Query OK, 0 rows affected, 2 warnings (0.01 sec)

启动同步

start slave;

查看slave状态,这两项必须为yes

show slave status\G;

在这里插入图片描述

测试是否同步:

主库进行创建数据库;

mysql> create database test;
Query OK, 1 row affected (0.00 sec)
mysql> show databases;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| mysql              |
| performance_schema |
| sys                |
| test               |
+--------------------+
5 rows in set (0.00 sec)

查看slave1、slave2从库;

mysql> show databases;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| mysql              |
| performance_schema |
| sys                |
| test               |
+--------------------+
5 rows in set (0.00 sec)
一主两从搭建成功!!!

部署MHA

所需要的MHA安装包链接🔗

链接:https://pan.baidu.com/s/1QOgJrkHItlCjwMX60h6s4A 
提取码:e9bi 
复制这段内容后打开百度网盘手机App,操作更方便哦

第一步

搭建MySQL主从(做好可略过)

需要注意的一点:mysql主从复制的授权用户也需要三台都做,因为一旦有一台主宕机,就有一台从要代替主,所以还是需要有一个可以复制二进制日志的用户,三台用户名也必须一样

MySQL主的my.cnf配置文件

server-id=1
log-bin=master-bin
log-slave-updates=true
relay-log = relay-log-bin

MySQL从的my.cnf配置文件

为什么从的配置文件会有和主一样的log-bin,同授权原因一样,如果主宕机后,从变为主,也需要有二进制日志文件

一台server-id为2,一台server-id为3

server-id=2
log-bin=master-bin
log-slave-updates=true
relay-log=relay-log-bin
relay-log-index=slave-relay-bin.index
read-only=1    # 启动只读属性
relay-log-purge=0    # 高可用进行切换时,从升为主时,保留之前的中继日志

数据库授权mha用户,此用户将用作管理端管理mysql时使用的数据库用户

三台数据库分别登录数据库客户端,执行以下命令进行授权

grant all on *.* to 'mha'@'192.168.1.%' identified by '123.com';

再接着授权主从复制用户(三台数据库都做)

grant replication slave on *.* to 'slave'@'192.168.1.%' identified by '123.com';

查看MySQL主(192.168.1.10)的偏移量,用来从服务器复制使用

mysql> show master status;
+-------------------+----------+--------------+------------------+-------------------+
| File              | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+----------+--------------+------------------+-------------------+
| master-bin.000001 |      1021 |              |                  |                   |
+-------------------+----------+--------------+------------------+-------------------+
1 row in set (0.01 sec)

分别在两台MySQL(192.168.1.20/192.168.1.30)从执行以下

change master to master_host='192.168.1.10',master_user='slave',master_password='123.comm',master_log_file='master-bin.000001',master_log_pos=1021;
start slave;
show slave status\G  # 出现以下则成功
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes

第二步

为了方便管理,四台服务器之间做免密登录

MHA管理端192.168.1.40
node1、node2、node3同样 (做过可忽略)

ssh-keygen
ssh-copy-id -i 192.168.1.10
ssh-copy-id -i 192.168.1.20
ssh-copy-id -i 192.168.1.30

第三步

将每台服务器都安装被管理节点

四台操作一致

[root@localhost ~]# rpm -ivh epel-release-latest-7.noarch.rpm

使用网络yum安装依赖关系,这里需要使用网络yum

yum -y install perl-DBD-mysql perl-DBI
[root@localhost ~]# rpm -ivh mha4mysql-node-0.56-0.el6.noarch.rpm

第四步

如下代码在进行复制的时候请删掉后面注释部分文字(以免报错)

在MHA管理端(192.168.1.40)安装管理包

在没有mysql的主机上进行安装以下包

yum -y install perl-Config-Tiny perl-Log-Dispatch perl-Parallel-ForkManager
rpm -ivh mha4mysql-manager-0.56-0.el6.noarch.rpm

编写配置文件

[root@localhost ~]# vim /etc/masterha_default.cnf
[server default]    # 全局配置
user=mha    # 经过数据库授权的给管理节点的管理用户
password=123.com  # 经过数据库授权的给管理节点的管理用户的密码
repl_user=slave        # 主从复制使用的用户
repl_password=123.com   # 主从复制使用的用户密码
ssh_user=root    # 管理节点与节点之间使用的ssh用户
master_binlog_dir=/var/lib/mysql  # mysql主存放二进制日志的目录
remote_workdir=/data/login    # 当获取到mysql主的二进制日志是存放在本机的此目录
ping_interval=2  # 管理节点与mysql主的通讯时间(秒),超过时间,则认为mysql主宕机了
shutdown_script=""   # 当mysql主宕机时执行的脚本,可以为空

编写管理节点的配置文件

[root@localhost ~]# mkdir /etc/mha
[root@localhost ~]# vim /etc/mha/app1.cnf
[server default]  # 全局配置
manager_workdir=/var/lib/manager   # 工作目录
manager_log=/var/log/manager/manager.log    # 日志目录,manager需要创建
[server1]   # 节点配置
hostname=192.168.1.10
port=3306
ssh_port=22
 
[server2]
hostname=192.168.1.20
port=3306
ssh_port=22
candidate_master=1  # 表示mysql主宕机后,有server2的节点来接替主
 
[server3]
hostname=192.168.1.30
port=3306
ssh_port=22

创建目录

mkdir /var/log/manager

测试manager与数据库节点之间的ssh通讯是否正常

[root@localhost ~]# masterha_check_ssh --global-conf=/etc/masterha_default.cnf --conf=/etc/mha/app1.cnf
# 最后显示ok

检测节点之间的主从复制是否正常

[root@localhost ~]# masterha_check_repl --global-conf=/etc/masterha_default.cnf --conf=/etc/mha/app1.cnf
# 最后显示ok

启动MHA管理端,处于监控的状态

[root@localhost ~]# masterha_manager --global-conf=/etc/masterha_default.cnf --conf=/etc/mha/app1.cnf
# 阻塞状态

验证:

MySQL主192.168.1.10

systemctl stop mysqld

将主的mysql服务模拟故障后,监控的管理端会使用mha用户开始选举另一个主,来接替,down掉的主再上线,就是独立的mysql

在变成主库的从上创建库来验证,其他从库是否复制到

友情连接🔗

相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
1月前
|
存储 SQL 关系型数据库
Mysql高可用架构方案
本文阐述了Mysql高可用架构方案,介绍了 主从模式,MHA模式,MMM模式,MGR模式 方案的实现方式,没有哪个方案是完美的,开发人员在选择何种方案应用到项目中也没有标准答案,合适的才是最好的。
154 3
Mysql高可用架构方案
|
2月前
|
分布式计算 关系型数据库 MySQL
大数据-88 Spark 集群 案例学习 Spark Scala 案例 SuperWordCount 计算结果数据写入MySQL
大数据-88 Spark 集群 案例学习 Spark Scala 案例 SuperWordCount 计算结果数据写入MySQL
55 3
|
2月前
|
消息中间件 分布式计算 关系型数据库
大数据-140 - ClickHouse 集群 表引擎详解5 - MergeTree CollapsingMergeTree 与其他数据源 HDFS MySQL
大数据-140 - ClickHouse 集群 表引擎详解5 - MergeTree CollapsingMergeTree 与其他数据源 HDFS MySQL
58 0
|
2月前
|
SQL 分布式计算 关系型数据库
Hadoop-24 Sqoop迁移 MySQL到Hive 与 Hive到MySQL SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
Hadoop-24 Sqoop迁移 MySQL到Hive 与 Hive到MySQL SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
105 0
|
2月前
|
SQL 分布式计算 关系型数据库
Hadoop-23 Sqoop 数据MySQL到HDFS(部分) SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
Hadoop-23 Sqoop 数据MySQL到HDFS(部分) SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
51 0
|
2月前
|
SQL 分布式计算 关系型数据库
Hadoop-22 Sqoop 数据MySQL到HDFS(全量) SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
Hadoop-22 Sqoop 数据MySQL到HDFS(全量) SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
57 0
|
2月前
|
SQL 关系型数据库 MySQL
mysql集群方案
mysql集群方案
50 0
|
4月前
|
SQL 关系型数据库 MySQL
orchestrator搭建mysql高可用
orchestrator搭建mysql高可用
55 0
|
4月前
|
缓存 关系型数据库 MySQL
如何实现mysql高可用集群
如何实现mysql高可用集群
56 0
|
14天前
|
关系型数据库 MySQL 数据库
Python处理数据库:MySQL与SQLite详解 | python小知识
本文详细介绍了如何使用Python操作MySQL和SQLite数据库,包括安装必要的库、连接数据库、执行增删改查等基本操作,适合初学者快速上手。
92 15