rsync—远程同步(二)

简介: rsync—远程同步(二)

4.2.9编辑免交互密钥文件,第一行为密码

vim /etc/server.pass
123123


给密钥文件赋权600

chmod 600 /etc/server.pass



4.2.10使用密钥文件/etc/server/pass对应backuper用户

IP地址为192.168.137.20的共享模块文件进行压缩,并归档同步至当前服务器的/abc目录下,同时删除差异内容,如果原目标有的,会增加,原目标没有的,会删除,保持一致性。


rsync -az --delete --password-file=/etc/server.pass backuper@192.168.137.20::wwwroot /opt/haha

4.3发起端(客户端)配置rsync+inotify实时同步

使用inotify通知接口,可以用来监控文件系统的各种变化情况,如文件存取、删除、移动、修改等。利用这一机制,可以非常方便地实现文件异动告警、增量备份,并针对目录或文件的变化及时作出响应。

将inotify机制与rsync工具相结合,可以实现触发式备份(实时同步),即只要原始位置的文档发生变化,则立即启动增量备份操作;否则处于静默等待状态。

因为 inotify 通知机制由 Linux 内核提供,因此主要做本机监控,在触发式备份中应用时更适合上行同步


4.3.1Master 关闭只读模式并为共享目录赋权

master(192.168.145.10)


#关闭只读模式,否则将不可写入
vim /etc/rsyncd.conf
read only = no

4.3.2修改完配置文件并重启服务

修改完配置文件需要重启服务,这里采用直接杀掉进程号的方式
kill `cat /var/run/rsyncd.pid`
#检查一下服务是否已被终止
netstat -natp | grep rsync


4.3.3再次开启服务并检查端口号确认

rsync --daemon
netstat -natp | grep rsync


4.3.4为共享目录赋权

chmod 777 /opt/gongxiang

4.3.5优化slave内核参数

slave(192.168.145.23) 
cat /proc/sys/fs/inotify/max_queued_events      #监控事件队列
cat /proc/sys/fs/inotify/max_user_instances     #最多监控实例数
cat /proc/sys/fs/inotify/max_user_watches       #每个实例最多监控文件数
vim /etc/sysctl.conf         #加大每个参数
fs.inotify.max_queued_events = 16384
fs.inotify.max_user_instances = 1024
fs.inotify.max_user_watches = 1048576
#当要监控的目录、文件数据量较多或者变化频繁时,建议加大参数值
sysctl -p
#刷新



4.3.5客户端(192.168.145.23):编译安装 inotify-tools

安装gcc gcc-c++


yum install -y gcc gcc-c++ 

4.3.6解压安装包

cd /opt
#切换至/opt上传inotify-tools安装包
tar zxf inotify-tools-3.14.tar.gz 
#解压

4.3.7编译安装

cd /opt/inotify-tools-3.14/
./configure
make -j 3 && make install
#编译安装



4.3.8编写触发脚本

vim /opt/inotify.sh
#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e create,delete,move,modify,attrib /opt/haha/"
RSYNC_CMD="rsync -azH --delete --password-file=/etc/server.pass /opt/haha/ backuper@192.168.137.20::wwwroot"
$INOTIFY_CMD | while read DIRECTORY EVENT FILE
do
    if [ $(pgrep rsync | wc -l) -le 0 ] ; then
        $RSYNC_CMD
  fi
done
#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e create,delete,move,modify,attrib /opt/abc/"
#INOTIFY_CMD变量:持续监控 /opt/abc目录中的创建,删除,移动,修改,改变时间的操作
RSYNC_CMD="rsync -azH --delete --password-file=/etc/server.pass /opt/abc/ backuper@192.168.137.20::wwwroot"
#RSYNC_CMD变量:使用 backuper 用户,/etc/server.pass 密钥文件,将 /opt/xcf1 目录下的文件进行压缩,归档,保留硬链接文件同步至 192.168.137.20 的共享模块定义的目录 /var/www/html 下,并删除差异性内容,保持一致性
$INOTIFY_CMD | while read DIRECTORY EVENT FILE  #持续监控...
do
    if [ $(pgrep rsync | wc -l) -le 0 ] ; then  #如果服务并未启动,则执行同步
        $RSYNC_CMD
  fi
done



4.3.9给脚本赋权

cd /opt/
chmod +x inotify.sh
#给脚本赋权
chmod +x /etc/rc.d/rc.local 
echo "/opt/inotify.sh" >> /etc/rc.d/rc.local 
#设置开机自启动
sh -x inotify.sh
#执行脚本



4.3.10Master(192.168.145.10)验证

cd /opt/gongxiang
ls




五、rsync报错解决

问题:password flle must not be other-accesslble


ERROR: password file must not be other-accessible

解决方法

将password-file设箦为600权限chmod 600 XXX pass


在便用rsyne同步操作时,rsync报错


sync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1518) [generator=3.0.9]

解决办法

原因是有文件没有写的权限,导致备份权限不够,两种解决办法:

1、将服务端rsyncd.conf配置文件的uid和gid分别修改成rootl,重载下,letclrc.dinit.dxinetd reload,再次执行同步,同步成功2、将需要同步的文件夹及下属文件赋予777权限(chmod -R 777 xxx),再次执行同步,同步成功

注意:如果使用第一种办法,那么在执行完同步后,为了安全,记得将uid和Dgid修改回来,或修改成nobody


六、rsync的应用场景

1、增量同步


2、备份/迁移:可以作为辅助工具(mysql 主从复制 rsync +inotify ——》趋于一致 双向同步——MM,但是只能在并发量不大的时候可以用)


3、假设mysql 从主机A迁移到主机B(一主两从模式)


一主两从模式迁移方案


①确定迁移的时间、业务线停止的时间、要写文档描述具体操作,要发邮件审批


②确认迁移后的节点的环境问题(资源环境 + 系统依赖环境 + mysql内部的格式环境)


1)例如自增长,自增长可能会导致主从复制不一致的情况


2)版本迁移问题,比如说低版本向高版本迁移。两个版本中的差异比较大,数据迁移比较重要,需要和研发沟通,让研发开发一个工具,让低版本可以转成高版本工具格式,使用工具迁移)


③ 如果数据库是相同版本,可以用rsync + inotify持续同步


④ 测试、之前还要编写回滚方案


⑤ 提交检修申请 22:00 - 00:00


相关文章
|
监控 算法 Unix
rsync远程同步
rsync远程同步
151 0
|
监控 算法 Linux
使用 Rsync 实现远程同步,以及实时同步
Rsync 全称为:Remote Sync(远程同步),是一款开源的快速备份工具,可以在不同主机间镜像同步整个目录树,支持增量备份,保持链接和权限,采用优化的同步算法,传输前执行压缩,适用于异地备份,镜像服务器等应用(Linux 系统默认安装)
1454 0
使用 Rsync 实现远程同步,以及实时同步
|
监控 Linux 网络安全
|
7月前
|
存储 监控 网络安全
rsync 远程同步 基础介绍
rsync 远程同步 基础介绍
|
监控 算法 安全
rsync远程同步(上)
一、rsync介绍 1.1 rsync简介 rsync(Remote Sync,远程同步)是一个开源的快速备份工具,可以在不同主机之间镜像同步整个目录树,支持增量备份,并保持链接和权限,且采用优化的同步算法,传输前执行压缩,因此非常适用于异地备份、镜像服务器等应用。
358 0
|
监控 安全 数据安全/隐私保护
|
消息中间件 缓存 监控
rsync远程同步(下)
一、rsync介绍 1.1 rsync简介 rsync(Remote Sync,远程同步)是一个开源的快速备份工具,可以在不同主机之间镜像同步整个目录树,支持增量备份,并保持链接和权限,且采用优化的同步算法,传输前执行压缩,因此非常适用于异地备份、镜像服务器等应用。
161 0
|
安全
Rsync远程同步配置
# rsync服务端配置 # 安装rsync软件包 yum -y install rsync # 生成rsyncd.
892 0
|
分布式计算 Hadoop 开发工具
Rsync 实现远程同步
         介绍   rsync命令是一个远程数据同步工具,可通过LAN/WAN快速同步多台主机间的文件。rsync使用所谓的“rsync算法”来使本地和远程两个主机之间的文件达到同步,这个算法只传送两个文件的不同部分,而不是每次都整份传送,因此速度相当快。
1739 0
|
Apache 数据安全/隐私保护