rsync+inotify-tools实时数据同步配置实战

本文涉及的产品
云防火墙,500元 1000GB
简介:

实验环境的准备:

源服务器:10.0.0.130

目标服务器:10.0.0.139


一、在源服务器安装Rsync服务端

1、关闭SELINUX

vi /etc/selinux/config #编辑防火墙配置文件

#SELINUX=enforcing #注释掉

#SELINUXTYPE=targeted #注释掉

SELINUX=disabled #增加

:wq! #保存,退出

setenforce 0  #立即生效


2、开启防火墙tcp 873端口(Rsync默认端口)

vi /etc/sysconfig/iptables #编辑防火墙配置文件

-A RH-Firewall-1-INPUT -m state --state NEW -m tcp -p tcp --dport 873 -j ACCEPT

:wq! #保存,退出

/etc/init.d/iptables restart #最后重启防火墙使配置生效


3、安装Rsync服务端软件

yum  -y install rsync #安装

/etc/init.d/xinetd start #启动(CentOS中是以xinetd来管理Rsync服务的)


4、创建rsyncd.conf配置文件

vi /etc/rsyncd.conf #创建配置文件,添加以下代码

log file = /var/log/rsyncd.log #日志文件位置,启动rsync后自动产生这个文件,无需提前创建

pidfile = /var/run/rsyncd.pid  #pid文件的存放位置

lock file = /var/run/rsync.lock  #支持max connections参数的锁文件

auth users = backup #执行数据同步的用户名,可以设置多个,用英文状态下逗号隔开

secrets file = /etc/rsync.password  #用户认证配置文件,里面保存用户名称和密码,后面会创建这个文件

motd file = /etc/rsyncd.Motd  #rsync启动时欢迎信息页面文件位置(文件内容自定义)

uid = root #设置rsync运行权限为root

gid = root #设置rsync运行权限为root

port=873  #默认端口

use chroot = no #默认为true,修改为no,增加对目录文件软连接的备份

read only = no  #设置rsync服务端文件为读写权限

list = no #不显示rsync服务端资源列表

max connections = 200 #最大连接数

timeout = 600  #设置超时时间

hosts allow = 192.168.0.100  #允许进行数据同步的客户端IP地址,可以设置多个,用英文状态下逗号隔开

#hosts deny = x.x.x.x #禁止数据同步的客户端IP地址,可以设置多个,用英文状态下逗号隔开

[backup] #自定义名称

path = /backup/ #rsync服务端数据目录路径

comment = backup #模块名称与[backup]自定义名称相同

:wq!  #保存,退出


5、创建用户认证文件


echo "backup:chen">/etc/rsync.password 


6、设置文件权限


chmod 600 /etc/rsync.password  #设置文件所有者读取、写入权限


7、启动rsync


rsync --daemon 


第二部分:在目标务器10.0.0.139上操作


一、安装Rsync客户端


1、关闭SELINUX

vi /etc/selinux/config #编辑防火墙配置文件

#SELINUX=enforcing #注释掉

#SELINUXTYPE=targeted #注释掉

SELINUX=disabled #增加

:wq! #保存,退出

setenforce 0 #立即生效


2、开启防火墙tcp 873端口(Rsync默认端口,做为客户端的Rsync可以不用开启873端口)

vi /etc/sysconfig/iptables #编辑防火墙配置文件

-A RH-Firewall-1-INPUT -m state --state NEW -m tcp -p tcp --dport 873 -j ACCEPT

:wq! #保存,退出

/etc/init.d/iptables restart #最后重启防火墙使配置生效


3、安装Rsync客户端软件


yum install rsync #如果默认没有rsync,运行此命令进行安装rsync


启动的方法

rsync --daemon --config=/etc/rsyncd.conf #直接加载配置启动


4、创建认证密码文件


echo "chen" >/etc/rsync.password 


chmod 600 /etc/rsync.password  #设置文件权限,只设置文件所有者具有读取、写入权限即可

[root@chen~]# cat /etc/rsync.password 

chen

5、测试源服务器10.0.0.130到目标服务器10.0.0.139之间的数据同步


rsync -avzP  /tmp/   rsync_backup@10.0.0.139::backup --password-file=/etc/rsync.password 


运行完成后,在目标服务器10.0.0.139上查看,在/tmp目录下的文件,有则说明数据同步成功。


二、安装Inotify-tools工具,实时触发rsync进行同步


1、查看服务器内核是否支持inotify


ll /proc/sys/fs/inotify  #列出文件目录,出现下面的内容,说明服务器内核支持inotify


-rw-r--r-- 1 root root 0 Mar  7 02:17 max_queued_events

-rw-r--r-- 1 root root 0 Mar  7 02:17 max_user_instances

-rw-r--r-- 1 root root 0 Mar  7 02:17 max_user_watches


备注:Linux下支持inotify的内核最小为2.6.13,可以输入命令:uname -a查看内核

2、安装inotify-tools

从网上下载inotify软件:http://github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz 

wget  http://github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz  -C /home/root/tools/


inodify安装步骤:
1)解压

tar zxf inotify-tools-3.14.tar.gz 

2)安装

cd inotify-tools-3.14

编译安装:./configure --prefix=/usr/local/inotify-tools-3.14 
                 make && make install 

3)创建软连接


ln -s /usr/local/inotify-tools-3.14/  /usr/local/inotify-tools


3、修改inotify默认参数(inotify默认内核参数值太小)


查看系统默认参数值


修改参数:


sysctl -w fs.inotify.max_queued_events="200000000"

sysctl -w fs.inotify.max_user_watches="2000000000"

sysctl -w fs.inotify.max_user_instances="65535"


参数说明:


max_queued_events:


inotify队列最大长度,如果值太小,会出现"** Event Queue Overflow **"错误,导致监控文件不准确


max_user_watches:


inotifywait命令可以监视文件数量,要同步的文件包含多少目录,可以用:find /home/test -type d | wc -l 统计,必须保证max_user_watches值大于统计结果


max_user_instances:


每个用户创建inotify实例最大值


4、创建脚本,实时触发rsync进行同步


vi /server/scripts/inotify.sh #编辑,添加以下代码

#!/bin/bash
inotify=/usr/local/inotify-tools/bin/inotifywait
$inotify  -mrq  --format '%w%f' -e create,close_write,delete  /data\
|while read file
do
        rsync -az /data/ --delete rsync_backup@10.0.0.139::backup \
        --password-file=/etc/rsync.password
done


chmod +x   /server/scripts/inotify.sh #添加脚本执行权限


5、设置脚本开机自动执行


vi /etc/rc.local  #编辑,在最后添加一行


/bin/bash /server/scripts/inotify.sh &#设置开机自动在后台运行脚本


nohup /root/rsync.sh & #后台运行脚本


:wq!  #保存退出


6、测试inotify实时触发rsync同步脚本是否正常运行,在/data/创建几个目录,然后在目标服务器上查看是否存在,存在则证明数据实时同步成功。


7.inotify优缺点  


inotify的优点:


1)实时数据同步  

inotify缺点:


1)并发如果大于200个文件,同步就会延时
2)监控到的事件后,调用rsync同步是单进程的,sersync是多进程同步
serysnc 功能多:可以对失败的文件重传,真正的守护进程socket,默认多线程同步。
3)我们前面写的脚本,每次都是全部推送一次,但确实是增量的。


inotify参数


-m 是保持一直监听


-r 是递归查看目录


-q 是打印出事件


-e create,move,delete,modify,attrib 是指 “监听 创建 移动 删除 写入 权限” 事件


rsync参数


-v, --verbose 详细模式输出


-q, --quiet 精简输出模式


-c, --checksum 打开校验开关,强制对文件传输进行校验


-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD


-r, --recursive 对子目录以递归模式处理


-R, --relative 使用相对路径信息


-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。


--backup-dir 将备份文件(如~filename)存放在在目录下。


-suffix=SUFFIX 定义备份文件前缀


-u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)


-l, --links 保留软链结


-L, --copy-links 想对待常规文件一样处理软链结


--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结


--safe-links 忽略指向SRC路径目录树以外的链结


-H, --hard-links 保留硬链结


-p, --perms 保持文件权限


-o, --owner 保持文件属主信息


-g, --group 保持文件属组信息


-D, --devices 保持设备文件信息


-t, --times 保持文件时间信息


-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间


-n, --dry-run现实哪些文件将被传输


-W, --whole-file 拷贝文件,不进行增量检测


-x, --one-file-system 不要跨越文件系统边界


-B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节


-e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步


--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息


-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件


--existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件


--delete 删除那些DST中SRC没有的文件


--delete-excluded 同样删除接收端那些被该选项指定排除的文件


--delete-after 传输结束以后再删除


--ignore-errors 及时出现IO错误也进行删除


--max-delete=NUM 最多删除NUM个文件


--partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输


--force 强制删除目录,即使不为空


--numeric-ids 不将数字的用户和组ID匹配为用户名和组名


--timeout=TIME IP超时时间,单位为秒


-I, --ignore-times 不跳过那些有同样的时间和长度的文件


--size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间


--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0


-T --temp-dir=DIR 在DIR中创建临时文件


--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份


-P 等同于 --partial


--progress 显示备份过程


-z, --compress 对备份的文件在传输时进行压缩处理


--exclude=PATTERN 指定排除不需要传输的文件模式


--include=PATTERN 指定不排除而需要传输的文件模式


--exclude-from=FILE 排除FILE中指定模式的文件


--include-from=FILE 不排除FILE指定模式匹配的文件


--version 打印版本信息


--address 绑定到特定的地址


--config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件


--port=PORT 指定其他的rsync服务端口


--blocking-io 对远程shell使用阻塞IO


-stats 给出某些文件的传输状态


--progress 在传输时现实传输过程


--log-format=formAT 指定日志文件格式


--password-file=FILE 从FILE中得到密码


--bwlimit=KBPS 限制I/O带宽,KBytes per second


-h, --help 显示帮助信息



本文转自chengong1013 51CTO博客,原文链接:http://blog.51cto.com/purify/1768633,如需转载请自行联系原作者
相关文章
|
10月前
|
canal 消息中间件 关系型数据库
系统重构数据同步利器之Canal实战篇
系统重构数据同步利器之Canal实战篇
301 1
|
9月前
|
网络协议 大数据 Linux
案列分享-因netfilter包过滤规则配置错误造成datax数据同步作业运行失败
案列分享-因netfilter包过滤规则配置错误造成datax数据同步作业运行失败
|
canal 监控 负载均衡
秃头也要学习的微服务进阶场景实战:基于Bifrost的数据同步方案
技术选型 项目组决定找一个开源中间件,它需要满足以下5点要求。 1)支持实时同步。 2)支持增量同步。 3)不用写业务逻辑。 4)支持MySQL之间的同步。 5)活跃度高。
|
28天前
|
Java 关系型数据库 流计算
实时计算 Flink版操作报错合集之配置cats进行从MySQL到StarRocks的数据同步任务时遇到报错,该怎么办
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
308 0
|
算法 Linux
Linux系统【文件传输】rsync命令 – 远程数据同步工具
rsync命令来自于英文词组“remote sync”的缩写,其功能是用于远程数据同步。rsync命令能够基于网络(含局域网和互联网)快速的实现多台主机间的文件同步工作,并与scp或ftp发送完整文件不同,rsync有独立的文件内容差异算法,会在传送前对两个文件进行比较,只传送两者内容间的差异部分,因此速度更快。
161 2
|
存储 监控 Cloud Native
《阿里云认证的解析与实战-数据仓库ACP认证》——云原生数据仓库AnalyticDB PostgreSQL版解析与实践(下)——一、数据同步
《阿里云认证的解析与实战-数据仓库ACP认证》——云原生数据仓库AnalyticDB PostgreSQL版解析与实践(下)——一、数据同步
深入浅出阿里数据同步神器:Canal原理+配置+实战全网最全解析!
canal 翻译为管道,主要用途是基于 MySQL 数据库的增量日志 Binlog 解析,提供增量数据订阅和消费。 早期阿里巴巴因为杭州和美国双机房部署,存在跨机房同步的业务需求,实现方式主要是基于业务 trigger 获取增量变更。从 2010 年开始,业务逐步尝试数据库日志解析获取增量变更进行同步,由此衍生出了大量的数据库增量订阅和消费业务。
|
关系型数据库 MySQL OLAP
《阿里云认证的解析与实战-数据仓库ACP认证》——功能演示二:创建数据仓库并完成数据同步——一、实验概要
《阿里云认证的解析与实战-数据仓库ACP认证》——功能演示二:创建数据仓库并完成数据同步——一、实验概要
|
关系型数据库 MySQL OLAP
《阿里云认证的解析与实战-数据仓库ACP认证》——功能演示二:创建数据仓库并完成数据同步——二、实验步骤
《阿里云认证的解析与实战-数据仓库ACP认证》——功能演示二:创建数据仓库并完成数据同步——二、实验步骤
|
关系型数据库 MySQL OLAP
《阿里云认证的解析与实战-数据仓库ACP认证》——功能演示二:创建数据仓库并完成数据同步——三、前提条件
《阿里云认证的解析与实战-数据仓库ACP认证》——功能演示二:创建数据仓库并完成数据同步——三、前提条件

热门文章

最新文章