centos 6.3下sersync+rsync文件同步配置教程

时间:2014-06-26 01:53 来源:linux.it.net.cn 作者:IT网

centos 6.3下sersync+rsync文件同步配置教程

目前服务器上采用的是inotify+rsync实时同步的，文件数量少或者需要同步的服务器数量少的时候还可以，但是对于大文件同步，或需要同步的文件数较多及多服务器同步的时候就难以胜任了。
同步解决方案有：rsync+inotify和rsync+sersync
前者由于是基于脚本语言编写，所以规范程度，执行效率相对rsync+sersync就稍微弱一些。
sersync是使用c++编写，基于boost1.43.0,inotify api,rsync command开发，主要用于服务器同步，web镜像等功能。其对linux系统文件系统产生的临时文件和重复的文件操作能够进行过滤，所以在结合 rsync同步的时候，节省了运行时耗和网络资源。因此更快,更适合线上使用。
官网地址：http://code.google.com/p/sersync/

实现将sersync推送端/data/uploadfile下的数据实时同步到rsync接收端/data/uploadfile目录下，实现rsync服务器为sersync的镜像服务器
注：使用rsync+crontab做定时同步时，主服务器端开启rsync守护进程，而镜像服务器是运行rsync客户端，平时一般会利用crontab定时获取rsync服务器上的数据。
但使用rsync+sersync做实时同步时，用于推送文件的服务器运行sersync服务，用于接收文件的服务器则运行rsync守护进程，简单来说就是sersync会利用rsync命令将文件推送到 rsync服务器，实际线上使用一般会把sersync作为主服务器，rsync作为镜像服务器，实现数据同步备份，web镜像等功能

解决方案：
操作系统:centos6.3 x64
rsync: centos自带yum源
sersync: sersync2.5_64bit
sersync 推送端 10.0.0.104
rsync 接收端 10.0.0.10
环境搭建：(接收端,推送端)

一.首先关闭selinux与iptables

复制代码代码示例:

	# vi /etc/sysconfig/selinux

	---------

	SELINUX=disabled

	---------

	# setenforce 0

	# service iptables stop

	在使用sersync之前，我们必须安装配置好rsync服务器

rsync (接收端)配置
一.安装rsync

复制代码代码示例:

	# yum install rsync -y

	# vi /etc/xinetd.d/rsync 

	修改disable = no

二.启动rsync依赖服务

复制代码代码示例:

	# /etc/init.d/xinetd start

	# chkconfig xinetd on

三.配置：

复制代码代码示例:

	# vi /etc/rsyncd.conf

	--------------------

	uid = root

	gid = root

	use chroot = no

	max connections = 5

	strict modes = yes

	port = 873

	[uploadfile] # rsync模块名，后面配置sersync会用到

	path = /data/uploadfile/  # 该同步目录只要uid所指定的用户有写权限即可

	comment = mirror for test

	ignore errors

	read only = no

	list = no

	auth users = rsync  #设置用于同步的用户名，不需要系统存在用户

	secrets file = /etc/rsync.pas # 密码认证文件，必须为600权限，否则rsync传输会报错

	hosts allow =10.0.0.104

	# hosts deny = 0.0.0.0/0

	pid file = /var/run/rsyncd.pid

	lock file = /var/run/rsync.lock

	log file = /var/log/rsyncd.log

四.创建同步目录

复制代码代码示例:

# mkdir /data/uploadfile/

五.配置认证文件

复制代码代码示例:

	# echo "user:123456" > /etc/rsync.pas

	# chmod 600 /etc/rsync.pas

	# rsync --daemon --config=/etc/rsyncd.conf

六.重启xinetd使其配置生效：

复制代码代码示例:

# /etc/init.d/xinetd restart

七.设置开机启动：

复制代码代码示例:

# echo "rsync --daemon --config=/etc/rsyncd.conf" >> /etc/rc.local

sersync (推送端)设置
一.下载sersync源码包

复制代码代码示例:

	# wget http://sersync.googlecode.com/files/sersync2.5_32bit_binary_stable_final.tar.gz

	注:若在64位平台安装则可下载64位sersync源码包,本例用32位

	# wget http://sersync.googlecode.com/files/sersync2.5_64bit_binary_stable_final.tar.gz

二.创建sersync目录结构

复制代码代码示例:

	#tar zxvf sersync2.5_64bit_binary_stable_final.tar.gz

	#mv GNU-Linux-x86  /usr/local/sersync

三.配置sersync
1.首先创建连接rsyncd的密码文件

复制代码代码示例:

	# echo "123456" >/etc/rsync.pas

	# chmod 600 /etc/rsync.pas

2.配置confxml.xml

复制代码代码示例:

	# cd /usr/local/sersync

	# vi confxml.xml

	按照注释进行修改

	-----------------------------

	<?xml version="1.0" encoding="ISO-8859-1"?>

	<head version="2.5">

	   # 设置本地IP和端口

	   <host hostip="localhost" port="10008"></host> ##设置服务端使用端口，可以随便设置，前提是不要使用已占用的端口

	   # 开启DUBUG模式  

	   <debug start="false"/>

	   # 开启xfs文件系统

	   <fileSystem xfs="false"/>

	   # 同步时忽略推送的文件(正则表达式),默认关闭

	   <filter start="false">

	   <exclude expression="(.*)\.svn"></exclude>

	   <exclude expression="(.*)\.gz"></exclude>

	   <exclude expression="^info/*"></exclude>

	   <exclude expression="^static/*"></exclude>

	   </filter>

	   <inotify>

	   # 设置要监控的事件

	   <delete start="true"/>

	   <createFolder start="true"/>

	   <createFile start="false"/>  #这个可以关掉。防止频繁操作

	   <closeWrite start="true"/>

	   <moveFrom start="true"/>

	   <moveTo start="true"/>

	   <attrib start="false"/>

	   <modify start="false"/>

	</inotify>

	   <sersync>

	   # 本地同步的目录路径

	   <localpath watch="/data/uploadfile">

	   # 远程IP和rsync模块名  

	   <remote ip="10.0.0.10" name="uploadfile"/>  

	   <!--<remote ip="10.0.0.11" name="uploadfile"/>-->

	   <!--<remote ip="10.0.0.11" name="uploadfile"/>-->

	   </localpath>

	   <rsync>

	   # rsync指令参数

	   <commonParams params="-auvzP"/>

	   # rsync同步认证

	   <auth start="true" users="user" passwordfile="/etc/rsync.pas"/>

	   # 设置rsync远程服务端口，远程非默认端口则需打开自定义

	   <userDefinedPort start="false" port="874"/><!-- port=874 -->

	   # 设置超时时间

	   <timeout start="true" time="100"/><!-- timeout=100 -->

	   # 设置rsync+ssh加密传输模式,默认关闭，开启需设置SSH加密证书

	   <ssh start="false"/>

	   </rsync>

	# sersync传输失败日志脚本路径，每隔60会重新执行该脚本，执行完毕会自动清空。

	   <failLog path="/usr/local/sersync/log/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->

	# 设置rsync+crontab定时传输，默认关闭

	   <crontab start="false" schedule="600"><!--600mins-->

	   <crontabfilter start="false">

	   <exclude expression="*.php"></exclude>

	   <exclude expression="info/*"></exclude>

	   </crontabfilter>

	   </crontab>

	   # 设置sersync传输后调用name指定的插件脚本，默认关闭

	   <plugin start="false" name="command"/>

	   </sersync>

	   # 插件脚本范例

	   <plugin name="command">

	   <param prefix="/bin/sh" suffix="" ignoreError="true"/>  <!--prefix /opt/tongbu/mmm.sh suffix-->

	   <filter start="false">

	   <include expression="(.*)\.php"/>

	   <include expression="(.*)\.sh"/>

	   </filter>

	   </plugin>

	   # 插件脚本范例

	   <plugin name="socket">

	   <localpath watch="/opt/tongbu">

	   <deshost ip="192.168.138.20" port="8009"/>

	   </localpath>

	   </plugin>

	   <plugin name="refreshCDN">

	   <localpath watch="/data0/htdocs/cms.xoyo.com/site/">

	   <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/>

	   <sendurl base="http://pic.xoyo.com/cms"/>

	   <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>

	   </localpath>

	   </plugin>

	</head>

3.创建推送端sersync同步目录

复制代码代码示例:

# mkdir /data/uploadfile

4.启动sersync

复制代码代码示例:

# /usr/local/sersync2 -r -d -o /usr/local/sersync/confxml.xml

注：重启操作如下：

复制代码代码示例:

	# killall sersync2 && /usr/local/sersync2 -r -d -o /usr/local/sersync/confxml.xml

5.设置开机启动

复制代码代码示例:

	# echo "/usr/local/sersync2 -r -d -o /usr/local/sersync/confxml.xml " >> /etc/rc.local

	sersync2的参数

	sersync2 -h

	set the system param

	execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches

	execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events

	parse the command param

参数：
参数-d:启用守护进程模式
参数-r:在监控前，将监控目录与远程主机用rsync命令推送一遍
c参数-n: 指定开启守护线程的数量，默认为10个
参数-o:指定配置文件，默认使用confxml.xml文件
参数-m:单独启用其他模块，使用 -m refreshCDN 开启刷新CDN模块
参数-m:单独启用其他模块，使用 -m socket 开启socket模块
参数-m:单独启用其他模块，使用 -m http 开启http模块
不加-m参数，则默认执行同步程序

(责任编辑：IT)