Rsync+Inotify实现SuSE文件实时同步

环境准备

  • SuSE11 SP3服务器两台
Host IP Status Kernel Bit Cp Document
A:SuSE-From 192.168.17.254 Client 3.0.101 64 /share/voice/
B:SuSE-To 192.168.17.134 Server 3.0.101 64 /share/voice/
  1. SuSE-From:文件产生的服务器(即,文件服务器)
  2. SuSE-To:需要将文件服务器中的文件,如语音文件同步到此服务器
    (Host主机名只是为了在文中确认文件同步的指向,主机名以实际的为准)
  3. /share/voice/目录在SuSE-From和SuSE-To中都已经存在,且均为root权限组

备注:

  1. 参考文章中提到的到Github上下载inotify是有问题的,解压缩后缺少可编译的文件。
  2. 两台机器的防火墙全部关闭
  3. 以下操作全部使用root进行

一、环境检测

1.1、查看内核版本
uname -a

显示如下:

Linux CCVTM-DBFS 3.0.101-0.47.55-default #1 SMP Thu May 28 08:25:11 UTC 2015 (dc083ee) x86_64 
x86_64 x86_64 GNU/Linux

linux内核从2.6.13起,加入了inotify支持,通过inotify可以监控文件系统中添加、删除,修改、移动等各种细微事件,利用这个内核接口,第三方软件就可以监控文件系统下文件的各种变化情况,而inotify-tools就是这样的一个第三方软件。

1.2、查看rsync版本
rpm -qa | grep rsync

显示如下:

rsync-3.0.4-2.47.28

二、配置Rsync

2.1、配置文件位置
ll /etc/rsync*

显示如下:

-rw-r--r-- 1 root root  378 Aug  1 16:23 /etc/rsyncd.conf
-rw------- 1 root root   11 Jul 31 18:06 /etc/rsyncd.secrets
2.2、SuSE-From中Rsync配置如下
2.2.1、配置文件
vim /etc/rsyncd.conf

按如下配置进行更改:

uid = root
gid = root
use chroot = no
max connections = 200
timeout = 600
strict modes = yes
hosts allow = 192.168.17.134
port = 873
transfer logging = yes
log format = %h %o %f %l %b
log file = /var/log/rsyncd.log
pid file = /var/run/rsyncd.pid

[cib]
path = /share/voice/
ignore errors = yes
read only = false
list = false
auth users = root
secrets file = /etc/rsyncd.secrets

配置文件中间不可有注释的行。

2.2.2、用户与密码认证文件
vim /etc/rsyncd.secrets

按如下进行配置:

password

设置权限为只读

cd /etc
chmod 600 rsyncd.secrets

SuSE-From中Rsync的认证配置文件中只有密码。

2.3、SuSE-To中Rsync配置如下
2.3.1、配置文件
vim /etc/rsyncd.conf

按如下配置进行更改:

uid = root
gid = root
use chroot = no
max connections = 200
timeout = 600
strict modes = yes
hosts allow = 192.168.17.254
port = 873
transfer logging = yes
log format = %h %o %f %l %b
log file = /var/log/rsyncd.log
pid file = /var/run/rsyncd.pid

[cib]
path = /share/voice/
ignore errors = yes
read only = false
list = false
auth users = root
secrets file = /etc/rsyncd.secrets
2.3.2、用户与密码认证文件
vim /etc/rsyncd.secrets

按如下进行配置:

root:password

设置权限为只读

cd /etc
chmod 600 rsyncd.secrets

SuSE-To中Rsync的认证配置文件中既有用户也有密码,密码和SuSE-From中的一致。

2.3.3、添加ip至hosts
echo "192.168.17.254 SuSE-From" > /etc/hosts

实际过程中,不添加也可以进行同步,只是在日志文件中会报无法识别主机的错误。

三、Rsync手动同步

3.1、分别启动SuSE-From与SuSE-To中的Rsync
service rsyncd start
3.2、同步命令
rsync -vzrtopg  --delete --progress --password-file=/etc/rsyncd.secrets /share/voice/ root@192.168.17.134::cib

上面这个命令行中,-vzrtopg里的v是verbose,z是压缩,r是recursive,topg都是保持文件原有属性如属主、时间的参数,--progress是指显示出详细的进度情况,--delete是指如果服务器端删除了这一文件,那么客户端也相应把文件删除,保持真正的一致。--password-file=/etc/rsyncd.secrets来指定密码文件,这样就可以在脚本中使用而无需交互式地输入验证密码了,这里需要注意的是这份密码文件权限属性要设得只有root可读。

四、安装Inotify(只在SuSE-From中进行)

4.1、下载与安装
cd /usr/local/src
## 如果无法联网,可先下载后通过root用户上传至`/usr/local/src目录中
wget https://nchc.dl.sourceforge.net/project/inotify-tools/inotify-tools/3.13/inotify-tools-3.13.tar.gz
tar -zxf inotify-tools-3.13.tar.gz
cd inotify-tools-3.13/
./configure --prefix=/usr/local/inotify
make && make install
4.2、创建rsync复制脚本

此项功能主要是将server端的目录/home/test/里的内容,如果修改了(无论是添加、修改、删除文件)能够通过inotify监控到,并通过rsync实时的同步给client的/share/voice里,下面是通过shell脚本实现的。

cd /share/voice
vim inotify_rsync.sh

如果此处inotify_rsync.sh脚本不放在同步的目录下(/share/voice/),测试中发现,启动脚本后无法实现同步。

再测试如下:

  • 1、如果SuSE-From需同步的目录为其他用户及用户组,则此同步脚本可不放置在同步目录下;具体影响为,启动脚本后,先存在于同步目录中的文件及目录文件夹无法同步,需要触发一次,才能同步。
  • 2、如果SuSE-From中需同步的目录为root用户及用户组,则将同步脚本放置同步目录中时,启动时即为实时同步。

脚本如下:

#!/bin/bash
host=192.168.17.134
src=/share/voice
des=cib
user=root

/usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f%e' -e modify,delete,create,attrib $src | while read files  
do 
/usr/bin/rsync -vzrtopg --delete --progress --password-file=/etc/rsyncd.secrets $src $user@$host::$des 
echo "${files} was rsynced" >>/var/log/rsync.log 2>&1 
done

其中host是server的ip,src是client端要实时监控的目录,des是认证的模块名,需要与server一致,user是建立密码文件里的认证用户。

4.3、脚本添加764权限
cd /share/voice
chmod 764 inotify_rsync.sh

五、运行脚本

SuSE-To与SuSE-From中的Rsync均已启动!

5.1、启动:
cd /share/voice
sh inotify_rsync.sh &
5.2、查看:
ps -ef | grep inotify

显示如下:

root     29916     1  0 16:42 ?        00:00:00 sh inotify_rsync.sh
root     29917 29916  0 16:42 ?        00:00:00 /usr/local/inotify/bin/inotifywait -mrq --timefmt %d/%m/%y %H:%M --format %T %w%f%e -e modify,delete,create,attrib /share/voice/
root     29918 29916  0 16:42 ?        00:00:00 sh inotify_rsync.sh
root     30698 30663  0 18:40 pts/2    00:00:00 grep inotify
5.3、停止脚本(备用,留作重启Inofity使用)

在5.2基础上得知脚本运行的PID,则使用以下命令kill正在运行的Inotify脚本:

kill -9 29916 29917 29918

六、Rsync与Inotify命令添加进开机启动项

SuSE-From:

## Rsync
echo "rsync --daemon --config=/etc/rsyncd.conf" >> /etc/rc.local
## Inotify
echo "setsid /share/voice/inotify_rsync.sh.sh &" >> /etc/rc.local 

SuSE-To:

## Rsync
echo "rsync --daemon --config=/etc/rsyncd.conf" >> /etc/rc.local

实战总结:

  1. 如果希望SuSE-From产生的文件,删除后不影响SuSE-To,则只需要将inotify_rsync.sh脚本中的--delete去掉,重启脚本即可。此种场景应用于SuSE-From服务器中硬盘已满,需要删除SuSE-From服务器中已经同步的数据而设。

--End


文章参考:

推荐阅读更多精彩内容