前言
存储数据的时候我们一般使用文件,如果随着数据量的剧增,有些文件我们将面临打开时间过长或者,打不开的风险,所以我们可以使用数据库进行大量数据存储,使用数据库进行存储的时候又会考虑到数据库的性能问题,如何提高数据库使用的性能就是我们今天要学的,主数据库进行增删改业务,从数据库进行查询业务,既提升了数据库的性能,又保障了数据的安全性。
一、mysql主从复制原理
(一)为啥要用主从复制?
在业务复杂的系统中,有这么一个情景,有一句sql语句需要锁表,导致暂时不能使用读的服务,那么就很影响运行中的业务,使用主从复制,让主库负责写,从库负责读,这样,即使主库出现了锁表的情景,通过读从库也可以保证业务的正常运作。
做数据的热备(采用多级主从数据库,可以将写入的数据立即同步到存储数据库)
架构的扩展。业务量越来越大,I/O访问频率过高,单机无法满足,此时做多库的存储,降低磁盘I/O访问的频率,提高单个机器的I/O性能。
(二)什么是Mysql主从复制?
MySQL 主从复制是指数据可以从一个MySQL数据库服务器主节点复制到一个或多个从节点。MySQL 默认采用异步复制方式,这样从节点不用一直访问主服务器来更新自己的数据,数据的更新可以在远程连接上进行,从节点可以复制主数据库中的所有数据库或者特定的数据库,或者特定的表。
(三)mysql主从复制原理剖析
①原理:
(1)master服务器将数据的改变记录二进制binlog日志,当master上的数据发生改变时,则将其改变写入二进制日志中;
(2)slave服务器会在一定时间间隔内对master二进制日志进行探测其是否发生改变,如果发生改变,则开始一个I/OThread请求master二进制事件
(3)同时主节点为每个I/O线程启动一个dump线程,用于向其发送二进制事件,并保存至从节点本地的中继日志中,从节点将启动SQL线程从中继日志中读 取二进制日志,在本地重放,使得其数据和主节点的保持一致,最后I/OThread和SQLThread将进入睡眠状态,等待下一次被唤醒。
②通俗的来讲:
从数据库会生成两个线程,一个I/O线程,一个SQL线程;
I/O线程会去请求主数据库的binlog,并将得到的binlog写到本地的relay-log(中继日志)文件中;
主数据库会生成一个log dump线程,用来给从数据库I/O线程传binlog;
SQL线程,会读取relay log文件中的日志,并解析成sql语句逐一执行;
③注意:
master将操作语句记录到binlog日志中,然后授予slave远程连接的权限(master一定要开启binlog二进制日志功能;通常为了数据安全考虑,slave也开启binlog功能)。
slave开启两个线程:IO线程和SQL线程。其中:IO线程负责读取master的binlog内容到中继日志relay log里;SQL线程负责从relay log日志里读出binlog内容,并更新到slave的数据库里,这样就能保证slave数据和master数据保持一致了。
Mysql复制至少需要两个Mysql的服务,当然Mysql服务可以分布在不同的服务器上,也可以在一台服务器上启动多个服务。
Mysql复制最好确保master和slave服务器上的Mysql版本相同(如果不能满足版本一致,那么要保证master主节点的版本低于slave从节点的版本)
master和slave两节点间时间需同步
(四)主从复制搭建种类及过程图
一主一从
实际生产环境中并不一定会使用
主主复制
可以防止某机器宕机,而带来的不必要的损失
一主多从
如果查询工作较多操作较为频繁可以选这种模式
多主一从
写入操作较多的时候可以选这种模式
级联复制
级联复制一般用于数据的存储备份。
二、主从搭建概览
1、从库通过手工执行change master to 语句连接主库,提供了连接的用户一切条件(user 、password、port、ip),并且让从库知道,二进制日志的起点位置(file名 position 号); start slave
2、从库的IO线程和主库的dump线程建立连接。
3、从库根据change master to 语句提供的file名和position号,IO线程向主库发起binlog的请求。
4、主库dump线程根据从库的请求,将本地binlog以events的方式发给从库IO线程。
5、从库IO线程接收binlog events,并存放到本地relay-log中,传送过来的信息,会记录到master.info中
6、从库SQL线程应用relay-log,并且把应用过的记录到relay-log.info中,默认情况下,已经应用过的relay 会自动被清理purge
三、主从搭建步骤(一主一从)
(一)新建主服务器实例
①起一个服务
创建主服务器,端口映射到3307
docker run -p 3307:3306 --name mysql-master \ -v /mydata/mysql-master/log:/var/log/mysql \ -v /mydata/mysql-master/data:/var/lib/mysql \ -v /mydata/mysql-master/conf:/etc/mysql \ -e MYSQL_ROOT_PASSWORD=root \ -d mysql:5.7
参数说明:
-p 3307:3306 将容器的3306端口映射到主机的3307端口
-v /mydata/mysql/master/conf:/etc/mysql ;将配置文件夹挂载到主机上
-v /mydata/mysql/master/log:/var/log/mysql:将日志文件夹挂载到主机上
-v /mydata/mysql/master/data:/var/lib/mysql:将数据文件夹挂载到主机上
-e MYSQL_ROOT_PASSWORD=root:初始化root用户的密码
②配置文件
进入/mydata/ mysql-master/conf目录下新建my.cnf
cd /mydata/mysql-master/conf
vim my.cnf
将以下内容粘贴进配置文件中
[mysqld] ## 设置server_id,同一局域网中需要唯一 server_id=101 ## 指定不需要同步的数据库名称 binlog-ignore-db=mysql ## 开启二进制日志功能 log-bin=mall-mysql-bin ## 设置二进制日志使用内存大小(事务) binlog_cache_size=1M ## 设置使用的二进制日志格式(mixed,statement,row) binlog_format=mixed ## 二进制日志过期清理时间。默认值为0,表示不自动清理。 expire_logs_days=7 ## 跳过主从复制中遇到的所有错误或指定类型的错误,避免slave端复制中断。 ## 如:1062错误是指一些主键重复,1032错误是因为主从数据库数据不一致 slave_skip_errors=1062
③重启服务
docker restart mysql-master
④进入mysql-master容器
docker exec -it mysql-master /bin/bash mysql -uroot -proot
⑤创建数据同步用户
CREATE USER 'slave' @'%' IDENTIFIED BY '123456'; GRANT REPLICATION SLAVE,REPLICATION CLIENT ON *.* TO 'slave'@'%';
(二)新建从服务器实例
①起一个服务
创建主服务器,端口映射到3308
docker run -p 3308:3306 --name mysql-slave \ -v /mydata/mysql-slave/log:/var/log/mysql \ -v /mydata/mysql-slave/data:/var/lib/mysql \ -v /mydata/mysql-slave/conf:/etc/mysql \ -e MYSQL_ROOT_PASSWORD=root \ -d mysql:5.7
②配置文件
进入/mydata/ mysql-slave/conf目录下新建my.cnf
cd /mydata/ mysql-slave/conf
vim my.cnf
将以下内容粘贴进配置文件中
[mysqld] ## 设置server_id,同一局域网中需要唯一 server_id=102 ## 指定不需要同步的数据库名称 binlog-ignore-db=mysql ## 开启二进制日志功能,以备Slave作为其它数据库实例的Master时使用 log-bin=mall-mysql-slave1-bin ## 设置二进制日志使用内存大小(事务) binlog_cache_size=1M ## 设置使用的二进制日志格式(mixed,statement,row) binlog_format=mixed ## 二进制日志过期清理时间。默认值为0,表示不自动清理。 expire_logs_days=7 ## 跳过主从复制中遇到的所有错误或指定类型的错误,避免slave端复制中断。 ## 如:1062错误是指一些主键重复,1032错误是因为主从数据库数据不一致 slave_skip_errors=1062 ## relay_log配置中继日志 relay_log=mall-mysql-relay-bin ## log_slave_updates表示slave将复制事件写进自己的二进制日志 log_slave_updates=1 ## slave设置为只读(具有super权限的用户除外) read_only=1
③重启服务
docker restart mysql-slave
④在主数据库中查看主从同步状态
查看主数据库的Position参数,我这里为434
show master status;
⑤进入mysql-slave容器
docker exec -it mysql-slave /bin/bash mysql -uroot -proot • 1 • 2
⑥在从数据库中查看主从同步状态(参数说明)
查看状态
show slave status \G; • 1
参数说明
master_host:主数据库的IP地址; master_port:主数据库的运行端口; master_user:在主数据库创建的用于同步数据的用户账号; master_password:在主数据库创建的用于同步数据的用户密码; master_log_file:指定从数据库要复制数据的日志文件,通过查看主数据的状态,获取File参数; master_log_pos:指定从数据库从哪个位置开始复制数据,通过查看主数据的状态,获取Position参数; master_connect_retry:连接失败重试的时间间隔,单位为秒。
修改配置(这里的端口与master_log_pos改成你们自己的)
change master to master_host='192.168.200.128',master_user='slave',master_password='123456',master_port=3307, master_log_file='mall-mysql- bin.000001',master_log_pos=434,master_connect_retry=30;
由图中数据可以看出来,主从复制并没有开启
⑦在从数据库中开启主从同步
start slave; • 1
再次查看从数据库状态
(三)测试
主机新建库并插入数据
从机进行数据查询
由此,数据库一主一从模式搭建彻底完成。
在搭建一主一从mysql主从复制关系的时候,可能会遇到一些错误,将会在下一篇博客汇总一下分享出来。