最近涉及到文件同步以及远程备份的技术比较多,也系统的整理了一下。目前我的服务器上采用的是inotify+rsync实时同步的,文件数量少或者需要同步的服务器数量少的时候还可以,但是对于大文件同步,或者需要同步的文件数较多及多服务器同步的时候就难以胜任了。
目前业内比较靠谱的同步解决方案有:rsync+inotify和rsync+sersync
前者由于是基于脚本语言编写,所以规范程度,执行效率相对rsync+sersync就稍微弱一些。
sersync是使用c++编写,基于boost1.43.0,inotify api,rsync command开发,主要用于服务器同步,web镜像等功能。其对linux系统文件系统产生的临时文件和重复的文件操作能够进行过滤,所以在结合 rsync同步的时候,节省了运行时耗和网络资源。因此更快,更适合线上使用。
官网地址:http://code.google.com/p/sersync/
本篇博文就是为了实现将sersync推送端/data/uploadfile下的数据实时同步到rsync接收端/data/uploadfile目录下,实现rsync服务器为sersync的镜像服务器
注:使用rsync+crontab做定时同步时,主服务器端开启rsync守护进程,而镜像服务器是运行rsync客户端,平时一般会利用crontab定时获取rsync服务器上的数据。
但使用rsync+sersync做实时同步时,用于推送文件 的服务器运行sersync服务,用于接收文件的服务器则运行rsync守护进程,简单来说就是sersync会利用rsync命令将文件推送到 rsync服务器,实际线上使用一般会把sersync作为主服务器,rsync作为镜像服务器,实现数据同步备份,web镜像等功能
解决方案:操作系统: centos6.3 x64
rsync: centos自带yum源
sersync: sersync2.5_64bit
sersync 推送端 10.0.0.104
rsync 接收端 10.0.0.10
环境搭建:(接收端,推送端)
一.首先关闭selinux与iptables
# vi /etc/sysconfig/selinux
---------
SELINUX=disabled
---------
# setenforce 0
# service iptables stop
在使用sersync之前,我们必须安装配置好rsync服务器
rsync ( 接收端)配置一.安装rsync
# yum install rsync -y
# vi /etc/xinetd.d/rsync
修改disable = no
二.启动rsync依赖服务
# /etc/init.d/xinetd start
# chkconfig xinetd on
三.配置:
# vi /etc/rsyncd.conf
--------------------
uid = root
gid = root
use chroot = no
max connections = 5
strict modes = yes
port = 873
[uploadfile] # rsync模块名,后面配置sersync会用到
path = /data/uploadfile/ # 该同步目录只要uid所指定的用户有写权限即可
comment = mirror for test
ignore errors
read only = no
list = no
auth users = rsync #设置用于同步的用户名,不需要系统存在用户
secrets file = /etc/rsync.pas # 密码认证文件,必须为600权限,否则rsync传输会报错
hosts allow =10.0.0.104
# hosts deny = 0.0.0.0/0
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
--------------------
四.创建同步目录
# mkdir /data/uploadfile/
五.配置认证文件
# echo "user:123456" > /etc/rsync.pas
# chmod 600 /etc/rsync.pas
# rsync --daemon --config=/etc/rsyncd.conf
六.重启xinetd使其配置生效:
# /etc/init.d/xinetd restart
七.设置开机启动:
# echo "rsync --daemon --config=/etc/rsyncd.conf" >> /etc/rc.local
sersync ( 推送端)设置一.下载sersync源码包
# wget http://sersync.googlecode.com/files/sersync2.5_32bit_binary_stable_final.tar.gz
注:若在64位平台安装则可下载64位sersync源码包,本例用32位
# wget http://sersync.googlecode.com/files/sersync2.5_64bit_binary_stable_final.tar.gz
二.创建sersync目录结构
#tar zxvf sersync2.5_64bit_binary_stable_final.tar.gz
#mv GNU-Linux-x86 /usr/local/sersync
三.配置sersync
1.首先创建连接rsyncd的密码文件
# echo "123456" >/etc/rsync.pas
# chmod 600 /etc/rsync.pas
2.配置confxml.xml
# cd /usr/local/sersync
# vi confxml.xml
按照注释进行修改
-----------------------------
# 设置本地IP和端口
##设置服务端使用端口,可以随便设置,前提是不要使用已占用的端口
# 开启DUBUG模式
# 开启xfs文件系统
# 同步时忽略推送的文件(正则表达式),默认关闭
# 设置要监控的事件
#这个可以关掉。防止频繁操作
false "/>
false "/>
# 本地同步的目录路径
# 远程IP和rsync模块名
# rsync指令参数
# rsync同步认证
# 设置rsync远程服务端口,远程非默认端口则需打开自定义
# 设置超时时间
# 设置rsync+ssh加密传输模式,默认关闭,开启需设置SSH加密证书
# sersync传输失败日志脚本路径,每隔60会重新执行该脚本,执行完毕会自动清空。
# 设置rsync+crontab定时传输,默认关闭
# 设置sersync传输后调用name指定的插件脚本,默认关闭
# 插件脚本范例
# 插件脚本范例
-----------------------------
3.创建推送端sersync同步目录
# mkdir /data/uploadfile
4.启动sersync
# /usr/local/sersync2 -r -d -o /usr/local/sersync/confxml.xml
注:重启操作如下:
# killall sersync2 && /usr/local/sersync2 -r -d -o /usr/local/sersync/confxml.xml
6.设置开机启动
# echo "/usr/local/sersync2 -r -d -o /usr/local/sersync/confxml.xml " >> /etc/rc.local
sersync2的参数
sersync2 -h
set the system param
execute:echo 50000000 > /proc/sys/fs/inotify/max_user_watches
execute:echo 327679 > /proc/sys/fs/inotify/max_queued_events
parse the command param
_______________________________________________________
参数-d:启用守护进程模式
参数-r:在监控前,将监控目录与远程主机用rsync命令推送一遍
c参数-n: 指定开启守护线程的数量,默认为10个
参数-o:指定配置文件,默认使用confxml.xml文件
参数-m:单独启用其他模块,使用 -m refreshCDN 开启刷新CDN模块
参数-m:单独启用其他模块,使用 -m socket 开启socket模块
参数-m:单独启用其他模块,使用 -m http 开启http模块
不加-m参数,则默认执行同步程序
<script>window._bd_share_config={"common":{"bdSnsKey":{},"bdText":"","bdMini":"2","bdMiniList":false,"bdPic":"","bdStyle":"0","bdSize":"16"},"share":{}};with(document)0[(getElementsByTagName('head')[0]||body).appendChild(createElement('script')).src='http://bdimg.share.baidu.com/static/api/js/share.js?v=89860593.js?cdnversion='+~(-new Date()/36e5)];</script> 阅读(2669) | 评论(1) | 转发(1) | 2
上一篇:mysql数据库性能优化—my.cnf详解
下一篇:查看CPU是否支持虚拟化
给主人留下些什么吧!~~

CU博客助理2014-05-22 13:15:46
嘉宾点评:
前期交待的应用背景如果有一些对比数据这篇文章就更有说服力了。后面的配置步骤比较全,配置文件说明不是太详细,比较适合有一定基础的人来看。最后配置及启动后,如果有一些文字或者图片说明以上操作都是成功且传大文件效率会更高就更好了。(感谢您参与“原创博文评选”获奖结果即将公布)
回复 | 举报 评论热议