rsync和inotify实时同步配置 exclude排除多个文件夹

简介:

同步的方向:同步的服务器(更新发送) →被同步的服务器(接收)

或者说是   客户端   服务端 (客户端内容向服务端同步)


同步的服务器配置

1,安装rsync和inotify

1
2
3
4
5
6
7
8
9
10
11
12
13
14
wget  http: //rsync.samba.org/ftp/rsync/src/rsync-3.0.9.tar.gz #安装rsync
tar -xzf rsync- 3.0 . 9 .tar.gz
cd rsync- 3.0 . 9
./configure --prefix=/usr/local/rsync
make && make install
vim /usr/local/rsync/rsync.passwd #设置服务端密码,被同步的密码是 "用户:服务端密码"
rsync-pwd
chmod  600  /usr/local/rsync/rsync.passwd
cd ../
wget http: //cloud.github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz        #安装inotify
tar -xzf inotify-tools- 3.14 .tar.gz
cd inotify-tools- 3.14
./configure --prefix=/usr/local/inotify
make && make install

2,编写rsync和inotify脚步 rsync.sh

1
2
3
4
5
6
7
8
9
10
#!/bin/bash
host= 192.168 .*.*   #被同步的服务器ip地址
src=/www/abc       #需要同步的目录
des=web            #被同步的一个模块名称
user=root   
/usr/local/inotify/bin/inotifywait -mrq --timefmt  '%d/%m/%y %H:%M'  --format  '%T %w%f%e'  -e modify, delete ,create,attrib $src |  while  read files
do
/usr/local/rsync/bin/rsync -qzrtopg -- delete  --progress --password-file=/usr/local/rsync/rsync.passwd  --exclude-from  '/back/list'    $src $user@$host::$des
echo  "${files} was rsynced"  >> / var /rsync.log  2 >& 1
done

3,排除多个文件夹

--exclude-from '/back/list' 这个是排除需要同步文件夹下面的多个文件,不需要同步的文件会同步,都是这里出错了,网上的博客试了很多次,发现'/back/list'这里面只能写文件夹的名字,最后不要多一个空格,要不也会同步过去的。这个列表只需要写目录下文件夹名称,不要多一个空格,或多一个/

1
2
3
4
# cat /back/list
Public
website
system

被同步的服务器配置

1,安装rsync

1
2
3
4
5
6
7
8
wget    #安装rsync
tar  -xzf  rsync -3.0.9. tar .gz
cd  rsync -3.0.9
. /configure  --prefix= /usr/local/rsync
make  &&  make  install
vim  /usr/local/rsync/rsync . passwd   #设置被同步的密码是"用户:服务端密码"
root: rsync - pwd
chmod  600  /usr/local/rsync/rsync . passwd

2,rsync.conf设置

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
#cat /usr/local/rsync/rsync.conf
uid = root
gid = root
use  chroot = no
max connections =  10
strict modes = yes
pid file = / var /run/rsyncd.pid
lock file = / var /run/rsync.lock
log file = / var /log/rsyncd.log
port =  873
[web]
path = /back/rsync     #被同步的服务器放置同步过来的文件夹位置
comment = web file
ignore errors
read only = no
write only = no
hosts allow =  192.168 .*.*   #同步的那台服务器ip地址
hosts deny = *
list =  false
uid = root
gid = root
auth users = root
secrets file = /usr/local/rsync/rsync.passwd

开始同步

1,在被同步的服务器

1
2
3
4
在iptables里面添加  873 端口,允许接收数据
-A INPUT -m state --state NEW -m tcp -p tcp --dport  873  -j ACCEPT
 
/usr/local/rsync/bin/rsync --daemon --config=/usr/local/rsync/rsync.conf

2,在同步的服务器

1
./rsync.sh &

停止同步

在同步的服务器kill -9 rsync的pid, 在被同步服务器kill -9 rsync的pid,并删除 /var/run/rsyncd.pid


下面来用实例看一下同步效果:

在同步的服务器上

1
2
3
4
5
6
7
8
9
10
11
12
13
14
[root@localhost ~] # cat rsync.sh 
#!/bin/bash
host=192.168.22.246  
src1= /root/2008/dir1
src2= /root/2008/dir2 
des1=web1
des2=web2       
user=root
/usr/local/inotify/bin/inotifywait  -mrq --timefmt  '%d/%m/%y %H:%M'  -- format  '%T %w%f%e'  -e modify,delete,create,attrib $src1 $src2 |  while  read  files
do
/usr/local/rsync/bin/rsync  -qrt --delete --progress --password- file = /usr/local/rsync/rsync . passwd   --exclude-from  '/root/2008/exclude'    $src1 $user@$host::$des1
/usr/local/rsync/bin/rsync  -qrt --delete --progress --password- file = /usr/local/rsync/rsync . passwd   --exclude-from  '/root/2008/exclude'    $src2 $user@$host::$des2
echo  "${files} was rsynced"  >>  /var/rsync .log 2>&1
done
1
2
3
4
5
6
7
8
[root@localhost ~] # ls 2008/
dir1  dir2  dir3  exclude
[root@localhost ~] # cat 2008/exclude
dir3
[root@localhost ~] # ls 2008/dir1/
2  3  test1
[root@localhost ~] # ls 2008/dir2/
1  2

在被同步的服务器上

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
[root@localhost ~] # cat /usr/local/rsync/rsync.conf
uid = root
gid = root
use chroot = no
max connections = 10
strict modes =  yes
pid  file  /var/run/rsyncd .pid
lock  file  /var/run/rsync .lock
log  file  /var/log/rsyncd .log
port = 873
[web1]
path =  /back/    
comment = web1  file
ignore errors
read  only = no
write only = no
hosts allow = 192.168.22.242   
hosts deny = *
list =  false
uid = root
gid = root
auth  users  = root
secrets  file  /usr/local/rsync/rsync . passwd
[web2]
path =  /back/
comment = web2  file
ignore errors
read  only = no
write only = no
hosts allow = 192.168.22.242 
hosts deny = *
list =  false
uid = root
gid = root
auth  users  = root
secrets  file  /usr/local/rsync/rsync . passwd

同步后的结果

1
2
3
4
[root@localhost ~] # ls /back/dir1/
2  3  test1
[root@localhost ~] # ls /back/dir2/
1  2

rsync被同步服务器启动停止shell脚本

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
#!/bin/bash 
#this script for start|stop rsync daemon service 
status1=$( ps  -ef |  egrep  "rsync --daemon.*rsync.conf"  grep  - v  'grep'
pidfile= "/var/run/rsyncd.pid" 
start_rsync= "/usr/local/rsync/bin/rsync --daemon --config=/usr/local/rsync/rsync.conf" 
  
function  rsyncstart() { 
     if  "${status1}X"  ==  "X"  ]; then 
         rm  -f $pidfile       
         ${start_rsync}   
         status2=$( ps  -ef |  egrep  "rsync --daemon.*rsync.conf"  grep  - v  'grep'
         if  [   "${status2}X"  !=  "X"   ]; then    
             echo  "rsync service start.......OK"             
         fi 
     else  
         echo  "rsync service is running !"    
     fi 
  
function  rsyncstop() {  
     if  "${status1}X"  !=  "X"  ]; then      
         kill  -9 $( cat  $pidfile) 
         status2=$( ps  -ef |  egrep  "rsync --daemon.*rsync.conf"  grep  - v  'grep'
         if  "${statusw2}X"  ==  "X"  ]; then              
             echo  "rsync service stop.......OK" 
         fi 
     else  
         echo  "rsync service is not running !"     
     fi 
   
function  rsyncstatus() {  
     if  "${status1}X"  !=  "X"  ]; then 
         echo  "rsync service is running !"       
     else 
          echo  "rsync service is not running !"   
     fi  
  
function  rsyncrestart() { 
     if  "${status1}X"  ==  "X"  ]; then 
                echo  "rsync service is not running..." 
                rsyncstart 
         else 
                rsyncstop 
                rsyncstart    
         fi       
}  
  
case  $1  in 
         "start"
                rsyncstart 
                 ;;  
         "stop"
                rsyncstop 
                 ;; 
         "status"
                rsyncstatus 
                ;; 
         "restart"
                rsyncrestart 
                ;;  
         *) 
           echo 
                 echo   "Usage: $0 start|stop|restart|status" 
           echo 
esac

脚本参考http://linux5588.blog.51cto.com/65280/779000 有修改


附:

Rsync的命令格式可以为以下六种:

  rsync [OPTION]... SRC DEST

  rsync [OPTION]... SRC [USER@]HOST:DEST

  rsync [OPTION]... [USER@]HOST:SRC DEST

  rsync [OPTION]... [USER@]HOST::SRC DEST

  rsync [OPTION]... SRC [USER@]HOST::DEST

  rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]

  对应于以上六种命令格式,rsync有六种不同的工作模式:

  1)拷贝本地文件。当SRC和DES路径信息都不包含有单个冒号":"分隔符时就启动这种工作模式。如:rsync -a /data /backup

  2)使用一个远程shell程序(如rsh、ssh)来实现将本地机器的内容拷贝到远程机器。当DST路径地址包含单个冒号":"分隔符时启动该模式。如:rsync -avz *.c foo:src

  3)使用一个远程shell程序(如rsh、ssh)来实现将远程机器的内容拷贝到本地机器。当SRC地址路径包含单个冒号":"分隔符时启动该模式。如:rsync -avz foo:src/bar /data

  4)从远程rsync服务器中拷贝文件到本地机。当SRC路径信息包含"::"分隔符时启动该模式。如:rsync -av root@172.16.78.192::www /databack

  5)从本地机器拷贝文件到远程rsync服务器中。当DST路径信息包含"::"分隔符时启动该模式。如:rsync -av /databack root@172.16.78.192::www

  6)列远程机的文件列表。这类似于rsync传输,不过只要在命令中省略掉本地机信息即可。如:rsync -v rsync://172.16.78.192/www

rsync参数的具体解释如下:

-v, --verbose 详细模式输出

-q, --quiet 精简输出模式

-c, --checksum 打开校验开关,强制对文件传输进行校验

-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD

-r, --recursive 对子目录以递归模式处理

-R, --relative 使用相对路径信息

-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。

--backup-dir 将备份文件(如~filename)存放在在目录下。

-suffix=SUFFIX 定义备份文件前缀

-u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)

-l, --links 保留软链结

-L, --copy-links 想对待常规文件一样处理软链结

--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结

--safe-links 忽略指向SRC路径目录树以外的链结

-H, --hard-links 保留硬链结

-p, --perms 保持文件权限

-o, --owner 保持文件属主信息

-g, --group 保持文件属组信息

-D, --devices 保持设备文件信息

-t, --times 保持文件时间信息

-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间

-n, --dry-run现实哪些文件将被传输

-W, --whole-file 拷贝文件,不进行增量检测

-x, --one-file-system 不要跨越文件系统边界

-B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节

-e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步

--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息

-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件

--existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件

--delete 删除那些DST中SRC没有的文件

--delete-excluded 同样删除接收端那些被该选项指定排除的文件

--delete-after 传输结束以后再删除

--ignore-errors 及时出现IO错误也进行删除

--max-delete=NUM 最多删除NUM个文件

--partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输

--force 强制删除目录,即使不为空

--numeric-ids 不将数字的用户和组ID匹配为用户名和组名

--timeout=TIME IP超时时间,单位为秒

-I, --ignore-times 不跳过那些有同样的时间和长度的文件

--size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间

--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0

-T --temp-dir=DIR 在DIR中创建临时文件

--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份

-P 等同于 --partial

--progress 显示备份过程

-z, --compress 对备份的文件在传输时进行压缩处理

--exclude=PATTERN 指定排除不需要传输的文件模式

--include=PATTERN 指定不排除而需要传输的文件模式

--exclude-from=FILE 排除FILE中指定模式的文件

--include-from=FILE 不排除FILE指定模式匹配的文件

--version 打印版本信息

--address 绑定到特定的地址

--config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件

--port=PORT 指定其他的rsync服务端口

--blocking-io 对远程shell使用阻塞IO

-stats 给出某些文件的传输状态

--progress 在传输时现实传输过程

--log-format=formAT 指定日志文件格式

--password-file=FILE 从FILE中得到密码

--bwlimit=KBPS 限制I/O带宽,KBytes per second

-h, --help 显示帮助信息










本文转自 bbotte 51CTO博客,原文链接:http://blog.51cto.com/bbotte/1380160,如需转载请自行联系原作者
目录
相关文章
|
2月前
|
Linux
在Linux中使用rsync进行备份时如何排除文件和目录?
在Linux中使用rsync进行备份时如何排除文件和目录?
123 1
在Linux中使用rsync进行备份时如何排除文件和目录?
|
14天前
|
Linux API 网络安全
centos7 图文详解精确同步企业实战 rsync include 同步指定文件exclude排除文件
centos7 图文详解精确同步企业实战 rsync include 同步指定文件exclude排除文件
10 0
|
Web App开发 前端开发 JavaScript
|
数据安全/隐私保护 网络安全 Shell
|
数据安全/隐私保护 网络安全

热门文章

最新文章