一、为什么要用rsync+sersync架构?
1、sersync是基于inotify开发的,类似于inotify-tools的工具
2、sersync可以记录下被监听目录中发生变化的(包括增加、删除、修改)具体某一个文件或者某一个目录的名字,然后使用rsync同步的时候,只同步发生变化的文件或者目录
二、rsync+inotify-tools与rsync+sersync架构的区别?
1、rsync+inotify-tools
a、inotify只能记录下被监听的目录发生了变化(增,删,改)并没有把具体是哪个文件或者哪个目录发生了变化记录下来;
b、rsync在同步的时候,并不知道具体是哪个文件或目录发生了变化,每次都是对整个目录进行同步,当数据量很大时,整个目录同步非常耗时(rsync要对整个目录遍历查找对比文件),因此效率很低
2、rsync+sersync
a、sersync可以记录被监听目录中发生变化的(增,删,改)具体某个文件或目录的名字;
b、rsync在同步时,只同步发生变化的文件或目录(每次发生变化的数据相对整个同步目录数据来说很小,rsync在遍历查找对比文件时,速度很快),因此效率很高。
总结:
当同步的目录数据量不大时,建议使用rsync+inotify
当同步的目录数据量很大时(几百G甚至1T以上)文件很多时,建议使用rsync+sersync
二、sersync安装配置
2.1sersync同步逻辑图
当前版本的sersync依赖于rsync进行数据同步;
<a href="http://s3.51cto.com/wyfs02/M01/70/11/wKiom1WwkXyQXHIzAACvg-bwYDE379.jpg" target="_blank"></a>
原理步骤:
1. 在同步服务器(Master)上开启sersync服务,sersync负载监控配置路径中的文件系统事件变化;
2. 调用rsync命令把更新的文件同步到目标服务器(S1 和 S2);
3. 需要在主服务器配置sersync,在同步目标服务器配置rsync server(注意:是rsync服务)
同步原理:
1. 用户实时的往sersync服务器(M)上写入更新文件数据;
2. 此时需要在同步主服务器(M)上配置sersync服务;
3. 在S1 和S2上开启rsync守护进程服务,以同步拉取来自sersync服务器(M)上的数据;
通过rsync的守护进程服务后可以发现,实际上sersync就是监控本地的数据写入或更新事件;然后,在调用rsync客户端的命令,将写入或更新事件对应的文件通过rsync推送到目标服务器(S1 和S2),如此简单;
2.2 安装环境准备
1.系统资源列表
角色
服务器配置
操作系统版本
IP
机器名
sersync服务(M)
VM
CentOS6.6
172.16.1.28
sersync
rsync服务(S1)
172.16.1.25
WEB1
rsync服务(S2)
172.16.1.26
WEB2
2.检查系统环境
<code>[root@web ~]# cat/etc/redhat-release </code>
<code>CentOS release </code><code>6.6</code> <code>(Final)</code>
<code>[root@web ~]# uname -r</code>
<code>2.6</code><code>.</code><code>32</code><code>-</code><code>504</code><code>.el6.x86_64</code>
<code>[root@web ~]# uname -m</code>
<code>x86_64</code>
2.3 配置同步服务器
1.slave上部署rsync服务
2. 升级rsync到3.0版本
<code>[root@web1 ~]# rsync --version|head -</code><code>2</code>
<code>rsync version </code><code>3.0</code><code>.</code><code>6</code> <code>protocol version </code><code>30</code>
<code>Copyright (C) </code><code>1996</code><code>-</code><code>2009</code> <code>byAndrew Tridgell, Wayne Davison, and others.</code>
3.部署rsync服务
确定S1和S2服务器版本是最新的,这看下多台目标服务器(S1,S2)上配置如下:
<code>[root@web1 ~]# vim /etc/rsyncd.conf</code>
<code>#Rsync server</code>
<code>uid = root</code>
<code>gid = root</code>
<code>use</code> <code>chroot = no # 安全相关</code>
<code>max connections = </code><code>2000</code> <code># 并发连接数</code>
<code>timeout = </code><code>600</code> <code># 超时时间(秒)</code>
<code>pid file =/</code><code>var</code><code>/run/rsyncd.pid # 指定rsync的pid目录</code>
<code>lock file =/</code><code>var</code><code>/run/rsync.lock # 指定rsync的锁文件【重要】</code>
<code>log file = /</code><code>var</code><code>/log/rsyncd.log # 指定rsync的日志目录</code>
<code>ignore errors </code>
<code>read only = </code><code>false</code>
<code>list = </code><code>false</code>
<code>hosts allow = </code><code>172.16</code><code>.</code><code>1.0</code><code>/</code><code>24</code>
<code>hosts deny = </code><code>0.0</code><code>.</code><code>0.0</code><code>/</code><code>32</code>
<code>auth users = rsync_backup</code>
<code>secrets file =/etc/rsync.password</code>
<code>#################################################</code>
<code>[www] # 模块 </code>
<code>comment = www </code>
<code>path = /data/www/</code>
<code>[bbs]</code>
<code>comment = bbs</code>
<code>path = /data/bbs/</code>
<code>[blog]</code>
<code>comment = blog</code>
<code>path = /data/blog/</code>
<code>#rsync_config____________end</code>
特别提示: S1,S2的机器 同时部署上述服务;
上面rsync服务的配置文件,表面允许sersync主服务器(ip:172.16.1.28)访问rsync同步模块名为[www][bbs][blog] 将同步过来的文件分别放入对应的path指定的目录/data/{www,bbs,blog}下面; 如果有多台目标服务器,则每一台都需要进行类似的rsync服务配置,上面的uid、gid要换成您服务器的相应的同步用户;注意,rsync服务账户(本文用的是root)要有对被同步目录(/data/)的写入更新权限;
4.创建rsync同步密码文件,并设置权限为600
<code>[root@web1 ~]# echo</code><code>"rsync_backup:liubl"</code><code>>/etc/rsync.password</code>
<code>[root@web1 ~]# chmod </code><code>600</code> <code>/etc/rsync.password </code>
<code>[root@web1 ~]# ll /etc/rsync.password </code>
<code>-rw-------. </code><code>1</code> <code>root root 19Jun </code><code>3</code> <code>18</code><code>:</code><code>19</code> <code>/etc/rsync.password </code>
<code>[root@web1 ~]# cat /etc/rsync.password </code>
<code>rsync_backup:liubl</code>
5.启动守护进程,并写入开机自启动
<code>[root@web1 ~]# rsync --daemon</code>
<code>[root@web1 ~]# lsof -i:</code><code>873</code>
<code>COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME</code>
<code>rsync </code><code>1070</code> <code>root 4u IPv4 </code><code>17190189</code> <code>0t0 TCP *:rsync (LISTEN)</code>
<code>[root@web1 ~]# </code>
<code>[root@web1 ~]# netstat -nulpt| grep rsync</code>
<code>tcp </code><code>0</code> <code>0</code> <code>0.0</code><code>.</code><code>0.0</code><code>:</code><code>873</code> <code>0.0</code><code>.</code><code>0.0</code><code>:* LISTEN </code><code>1070</code><code>/rsync</code>
<code>设置开机自启动【写入到/etc/rc.local里面】</code>
<code>[root@web1 ~]# vim /etc/rc.local</code>
<code># rsync server progress</code>
<code>/usr/bin/rsync --daemon</code>
6. 创建相关待同步的目录
<code>mkdir -p /data/{www,bbs,blog}</code>
<code>tree /data</code>
<code>提示: 此步骤在S1,S2都要执行,否则rsync服务会因为没有PATH路径而无法启动</code>
2.4Master上配置rsync客户端
在master上配置rsync客户端相关权限认证:
<code>[root@web ~]# echo</code><code>"liubl"</code><code>>/etc/rsync.password</code>
<code>[root@web ~]# chmod </code><code>600</code> <code>/etc/rsync.password </code>
<code>[root@web ~]# ll/etc/rsync.password </code>
<code>-rw-------. </code><code>1</code> <code>root root 19Jun </code><code>5</code> <code>05</code><code>:</code><code>57</code> <code>/etc/rsync.password</code>
<code>[root@web ~]# cat /etc/rsync.password </code>
<code>liubl</code>
2.4.1master上手工测试rsync同步情况
特别提示:此步非常关键,如果测试不成功,后面的sersync配好了也不会同步数据;
1)分别创建待同步数据
<code>[root@web ~]# mkdir -p /data/{www,bbs,blog}</code>
<code>[root@web ~]# touch /data/www/www.log /data/bbs/bbs.log/data/blog/blog.log</code>
<code>[root@web ~]# tree /data/</code>
<code>/data/</code>
<code>├── bbs</code>
<code>│ └── bbs.log</code>
<code>├── blog</code>
<code>│ └── blog.log</code>
<code>└── www</code>
<code> </code><code>└── www.log</code>
<code> </code>
<code>3</code> <code>directories, </code><code>3</code> <code>files</code>
2)执行同步命令
<code># rsync-avzP /data/www/ rsync_backup@</code><code>172.16</code><code>.</code><code>1.25</code><code>::www/--password-file=/etc/rsync.password</code>
<code>sending incremental file list</code>
<code>sent </code><code>38</code> <code>bytes received </code><code>8</code> <code>bytes </code><code>92.00</code> <code>bytes/sec</code>
<code>total size </code><code>is</code> <code>0</code> <code>speedup </code><code>is</code> <code>0.00</code>
<code>rsync-avzP /data/www/ rsync_backup@</code><code>172.16</code><code>.</code><code>1.25</code><code>::www/--password-file=/etc/rsync.password</code>
<code>rsync-avzP /data/www/ rsync_backup@</code><code>172.16</code><code>.</code><code>1.26</code><code>::www/--password-file=/etc/rsync.password</code>
<code>rsync-avzP /data/bbs/ rsync_backup@</code><code>172.16</code><code>.</code><code>1.26</code><code>::bbs/--password-file=/etc/rsync.password</code>
<code>rsync-avzP /data/bbs/ rsync_backup@</code><code>172.16</code><code>.</code><code>1.25</code><code>::bbs/--password-file=/etc/rsync.password</code>
<code>rsync-avzP /data/blog/ rsync_backup@</code><code>172.16</code><code>.</code><code>1.25</code><code>::blog/--password-file=/etc/rsync.password</code>
<code>rsync-avzP /data/blog/ rsync_backup@</code><code>172.16</code><code>.</code><code>1.26</code><code>::blog/--password-file=/etc/rsync.password</code>
<code>提示: </code>
<code>在后面进行部署sersync之前,sersync主服务器上必须要确保手工可以把文件推送到S1,S2上,这样后续sersync才能调用这些命令来自动推送</code>
<code>在推送前关闭iptables</code>
3)推送的命令是在 master端(也就是 sersync服务器上)操作的,同步后查看S1,S2
<code>[root@web1 ~]# tree /data/</code>
2.5Mster上开始部署sersync服务
1、下载sersync
在google code下载sersync的可执行文件版本,里面有配置文件与可执行文件,这用
<code>mkdir -p /applition/tools</code>
<code>cd /applition/tools</code>
<code>wgethttps:</code><code>//sersync.googlecode.com/files/sersync2.5.4_64bit_binary_stable_final.tar.gz</code>
<code>【有时下载失败,所有要本地留存才行】</code>
<code>[root@web ~]# tar fxzsersync2.</code><code>5</code><code>.4_64bit_binary_stable_final.tar.gz -C /usr/local/</code>
<code>[root@web ~]# cd /usr/local/</code>
<code>[root@cache local]# mv GNU-Linux-x86 sersync</code>
<code>[root@cache local]# treesersync/</code>
<code>sersync/</code>
<code>├── confxml.xml # 配置文件</code>
<code>└── sersync2 # 二进制文件【启动sersync使用】</code>
<code>0</code> <code>directories, </code><code>2</code> <code>files</code>
2、配置sersync
<code>[root@cache local]# cp sersync/confxml.xmlsersync/confxml.xml.$(date +%F)</code>
<code>[root@cache local]# ll sersync/confxml.xml</code>
<code>-rwxr-xr-x. </code><code>1</code> <code>root root 2214Oct </code><code>26</code> <code>2011</code> <code>sersync/confxml.xml</code>
<code>[root@cache local]# llsersync/confxml.xml*</code>
<code>-rwxr-xr-x. </code><code>1</code> <code>root root 2214Jun </code><code>5</code> <code>06</code><code>:38sersync/confxml.xml.</code><code>2015</code><code>-</code><code>06</code><code>-</code><code>05</code>
更改优化sersync配置文件:
a) 修改24--28行
<code> </code><code>24</code> <code><localpathwatch=</code><code>"/opt/tongbu"</code><code>> # 定义本地要同步的目录</code>
<code> </code><code>25</code> <code><remote ip=</code><code>"127.0.0.1"</code><code>name=</code><code>"tongbu1"</code><code>/></code>
<code> </code><code>26</code> <code><!--<remoteip=</code><code>"192.168.8.39"</code> <code>name=</code><code>"tongbu"</code><code>/>--> # 同步到哪台机器上 tongbu模块rsync端模块名字</code>
<code> </code><code>27</code> <code><!--<remoteip=</code><code>"192.168.8.40"</code> <code>name=</code><code>"tongbu"</code><code>/>--> # 同步到哪台机器上 tongbu模块</code>
<code> </code><code>28</code> <code></localpath></code>
修改后的内容为:
<code> </code><code><localpathwatch=</code><code>"/data/www"</code><code>></code>
<code> </code><code><remoteip=</code><code>"172.16.1.25"</code> <code>name=</code><code>"www"</code><code>/></code>
<code> </code><code><remoteip=</code><code>"172.16.1.26"</code> <code>name=</code><code>"www"</code><code>/></code>
<code> </code><code></localpath></code>
<code> </code><code><!--################################################## --></code>
<code> </code><code><localpathwatch=</code><code>"/data/bbs"</code><code>></code>
<code> </code><code><remoteip=</code><code>"172.16.1.25"</code> <code>name=</code><code>"bbs"</code><code>/></code>
<code> </code><code><remoteip=</code><code>"172.16.1.26"</code> <code>name=</code><code>"bbs"</code><code>/></code>
<code> </code><code><localpathwatch=</code><code>"/data/blog"</code><code>></code>
<code> </code><code><remote ip=</code><code>"172.16.1.25"</code><code>name=</code><code>"blog"</code><code>/></code>
<code> </code><code><remoteip=</code><code>"172.16.1.26"</code> <code>name=</code><code>"blog"</code><code>/></code>
<code>提示: 此步watch=</code><code>"/data/blog"</code><code>就是定义服务端待同步的目录,和目标服务器的模块name=</code><code>"blog"</code>
b)修改31--34行,认证部分【rsync密码认证】
<code> </code><code><rsync></code>
<code> </code><code><commonParamsparams=</code><code>"-artuz"</code><code>/></code>
<code> </code><code><auth start=</code><code>"false"</code><code>users=</code><code>"root"</code> <code>passwordfile=</code><code>"/etc/rsync.pas"</code><code>/></code>
<code> </code><code><userDefinedPortstart=</code><code>"false"</code> <code>port=</code><code>"874"</code><code>/><!-- port=</code><code>874</code> <code>--></code>
<code> </code><code><timeoutstart=</code><code>"false"</code> <code>time=</code><code>"100"</code><code>/><!-- timeout=</code><code>100</code> <code>--></code>
<code> </code><code><sshstart=</code><code>"false"</code><code>/></code>
<code> </code><code></rsync></code>
修改后的内容如下:
<code> </code><code><rsync></code>
<code> </code><code><commonParamsparams=</code><code>"-artuz"</code><code>/></code>
<code> </code><code><auth start=</code><code>"true"</code><code>users=</code><code>"rsync_backup"</code> <code>passwordfile=</code><code>"/etc/rsync.password"</code><code>/></code>
<code> </code><code><timeout start=</code><code>"true"</code> <code>time=</code><code>"100"</code><code>/><!--timeout=</code><code>100</code> <code>--></code>
<code> </code><code></rsync></code>
<code># ***修改内容为 rsync的密码文件以及 同步所使用的账号类似:</code>
<code>rsync -avzP /data/www/rsync_backup@</code><code>172.16</code><code>.</code><code>1.25</code><code>::www/ --password-file=/etc/rsync.password</code>
c)修改37行
<code> </code><code><failLogpath=</code><code>"/tmp/rsync_fail_log.sh"</code><code>timeToExecute=</code><code>"60"</code><code>/><!--</code><code>default</code> <code>every 60mins execute once--></code>
修改后如下:
<code> </code><code><failLog path=</code><code>"/usr/local/sersync/logs/rsync_fail_log.sh"</code><code>timeToExecute=</code><code>"60"</code><code>/><!--</code><code>default</code> <code>every 60mins execute once--></code>
<code># 当同步失败后,日志记录到/usr/local/sersync/logs/rsync_fail_log.sh文件中,并且每</code><code>60</code><code>分钟对失败的log进行重新同步</code>
修改后的完整配置文件为:
<code>[root@cache local]# cat sersync/confxml.xml</code>
<code><?xmlversion=</code><code>"1.0"</code> <code>encoding=</code><code>"ISO-8859-1"</code><code>?></code>
<code><headversion=</code><code>"2.5"</code><code>></code>
<code> </code><code><host hostip=</code><code>"localhost"</code><code>port=</code><code>"8008"</code><code>></host></code>
<code> </code><code><debug start=</code><code>"false"</code><code>/></code>
<code> </code><code><fileSystem xfs=</code><code>"false"</code><code>/></code>
<code> </code><code><filter start=</code><code>"false"</code><code>></code>
<code> </code><code><excludeexpression=</code><code>"(.*)\.svn"</code><code>></exclude></code>
<code> </code><code><excludeexpression=</code><code>"(.*)\.gz"</code><code>></exclude></code>
<code> </code><code><excludeexpression=</code><code>"^info/*"</code><code>></exclude></code>
<code> </code><code><excludeexpression=</code><code>"^static/*"</code><code>></exclude></code>
<code> </code><code></filter></code>
<code> </code><code><inotify></code>
<code> </code><code><</code><code>delete</code> <code>start=</code><code>"true"</code><code>/></code>
<code> </code><code><createFolderstart=</code><code>"true"</code><code>/></code>
<code> </code><code><createFilestart=</code><code>"false"</code><code>/></code>
<code> </code><code><closeWritestart=</code><code>"true"</code><code>/></code>
<code> </code><code><moveFromstart=</code><code>"true"</code><code>/></code>
<code> </code><code><moveTo start=</code><code>"true"</code><code>/></code>
<code> </code><code><attrib start=</code><code>"false"</code><code>/></code>
<code> </code><code><modify start=</code><code>"false"</code><code>/></code>
<code> </code><code></inotify></code>
<code> </code><code><sersync></code>
<code> </code><code><localpathwatch=</code><code>"/data/www"</code><code>></code>
<code> </code><code><remoteip=</code><code>"172.16.1.25"</code> <code>name=</code><code>"www"</code><code>/></code>
<code> </code><code><remoteip=</code><code>"172.16.1.26"</code> <code>name=</code><code>"www"</code><code>/></code>
<code> </code><code></localpath></code>
<code> </code><code><!--################################################## --></code>
<code> </code><code><localpathwatch=</code><code>"/data/bbs"</code><code>></code>
<code> </code><code><remoteip=</code><code>"172.16.1.25"</code> <code>name=</code><code>"bbs"</code><code>/></code>
<code> </code><code><remoteip=</code><code>"172.16.1.26"</code> <code>name=</code><code>"bbs"</code><code>/></code>
<code> </code><code><localpathwatch=</code><code>"/data/blog"</code><code>></code>
<code> </code><code><remoteip=</code><code>"172.16.1.25"</code> <code>name=</code><code>"blog"</code><code>/></code>
<code> </code><code><remoteip=</code><code>"172.16.1.26"</code> <code>name=</code><code>"blog"</code><code>/></code>
<code> </code><code><!-- ##################################################--></code>
<code> </code><code><auth start=</code><code>"true"</code><code>users=</code><code>"rsync_backup"</code><code>passwordfile=</code><code>"/etc/rsync.password"</code><code>/></code>
<code> </code><code><userDefinedPortstart=</code><code>"false"</code> <code>port=</code><code>"874"</code><code>/><!-- port=</code><code>874</code> <code>--></code>
<code> </code><code><timeout start=</code><code>"true"</code><code>time=</code><code>"100"</code><code>/><!-- timeout=</code><code>100</code> <code>--></code>
<code> </code><code><sshstart=</code><code>"false"</code><code>/></code>
<code> </code><code><failLogpath=</code><code>"/usr/local/sersync/logs/rsync_fail_log.sh"</code><code>timeToExecute=</code><code>"60"</code><code>/><!--</code><code>default</code> <code>every 60mins execute once--></code>
<code> </code><code><crontab start=</code><code>"false"</code><code>schedule=</code><code>"600"</code><code>><!--600mins--></code>
<code> </code><code><crontabfilterstart=</code><code>"false"</code><code>></code>
<code> </code><code><excludeexpression=</code><code>"*.php"</code><code>></exclude></code>
<code> </code><code><excludeexpression=</code><code>"info/*"</code><code>></exclude></code>
<code> </code><code></crontabfilter></code>
<code> </code><code></crontab></code>
<code> </code><code><plugin start=</code><code>"false"</code><code>name=</code><code>"command"</code><code>/></code>
<code> </code><code></sersync></code>
<code> </code><code><plugin name=</code><code>"command"</code><code>></code>
<code> </code><code><param prefix=</code><code>"/bin/sh"</code><code>suffix=</code><code>""</code> <code>ignoreError=</code><code>"true"</code><code>/> <!--prefix /opt/tongbu/mmm.sh suffix--></code>
<code> </code><code><filter start=</code><code>"false"</code><code>></code>
<code> </code><code><</code><code>include</code> <code>expression=</code><code>"(.*)\.php"</code><code>/></code>
<code> </code><code><includeexpression=</code><code>"(.*)\.sh"</code><code>/></code>
<code> </code><code></filter></code>
<code> </code><code></plugin></code>
<code> </code><code><plugin name=</code><code>"socket"</code><code>></code>
<code> </code><code><localpathwatch=</code><code>"/opt/tongbu"</code><code>></code>
<code> </code><code><deshostip=</code><code>"192.168.138.20"</code> <code>port=</code><code>"8009"</code><code>/></code>
<code> </code><code><plugin name=</code><code>"refreshCDN"</code><code>></code>
<code> </code><code><localpathwatch=</code><code>"/data0/htdocs/cms.xoyo.com/site/"</code><code>></code>
<code> </code><code><cdninfodomainname=</code><code>"ccms.chinacache.com"</code> <code>port=</code><code>"80"</code><code>username=</code><code>"xxxx"</code> <code>passwd=</code><code>"xxxx"</code><code>/></code>
<code> </code><code><sendurlbase=</code><code>"http://pic.xoyo.com/cms"</code><code>/></code>
<code> </code><code><regexurlregex=</code><code>"false"</code><code>match=</code><code>"cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"</code><code>/></code>
<code></head></code>
3、开启sersync守护进程同步数据
启动命令
<code>[root@web ~]# /usr/local/sersync/sersync2 -d -r -o /usr/local/sersync/confxml.xml</code>
<code>配置sersync环境变量</code>
<code>[root@web ~]# echo</code><code>"PATH=$PATH:/usr/local/sersync/"</code><code>>>/etc/profile</code>
<code>[root@web ~]# source /etc/profile</code>
<code>[root@web ~]# sersync2</code>
启动命令后返回结果如下为正常:
<code>set</code> <code>the system param</code>
<code>execute:echo50000000 > /proc/sys/fs/inotify/max_user_watches</code>
<code>execute:echo </code><code>327679</code><code>> /proc/sys/fs/inotify/max_queued_events</code>
<code>parse the command param</code>
<code>option: -d run </code><code>as</code> <code>a daemon</code>
<code>option: -r rsync all the local files to the remoteservers before the sersync work</code>
<code>option: -o config xml name: /usr/local/sersync/confxml.xml</code>
<code>daemon thread num: </code><code>10</code>
<code>parse xml config file</code>
<code>host ip : localhost host port: </code><code>8008</code>
<code>daemon start,sersync runbehind the console </code>
<code>use</code> <code>rsync password-file :</code>
<code>user </code><code>is</code> <code>rsync_backup</code>
<code>passwordfile </code><code>is</code> <code>/etc/rsync.password</code>
<code>config xml parse success</code>
<code>please </code><code>set</code> <code>/etc/rsyncd.confmax connections=</code><code>0</code> <code>Manually</code>
<code>sersync working thread </code><code>12</code> <code>= </code><code>1</code><code>(primary thread) + </code><code>1</code><code>(fail retry thread) + </code><code>10</code><code>(daemon sub threads)</code>
<code>Max threads numbers </code><code>is</code><code>: </code><code>32</code> <code>= </code><code>12</code><code>(Thread pool nums) +</code><code>20</code><code>(Sub threads)</code>
<code>please according your cpu ,</code><code>use</code> <code>-n paramto adjust the cpu rate</code>
<code>chmod: cannot access`/usr/local/sersync/logs/rsync_fail_log.sh': No such file or directory</code>
<code>------------------------------------------</code>
<code>rsync the directory recursivlyto the remote servers once</code>
<code>working please wait...</code>
<code>execute command: cd /data/www&& rsync -artuz -R --</code><code>delete</code> <code>./ --timeout=</code><code>100</code> <code>rsync_backup@</code><code>172.16</code><code>.</code><code>1.25</code><code>::www--password-file=/etc/rsync.password >/dev/</code><code>null</code> <code>2</code><code>>&</code><code>1</code>
<code>run the sersync: </code>
<code>watch path </code><code>is</code><code>: /data/www</code>
补充: 多实例情况
1、配置多个confxml.xml文件(比如:www、bbs、blog....等等)
2、根据不同的需求同步对应的实例文件
<code>/usr/local/sersync/sersync2 -d -o /usr/local/sersync/www_confxml.xml</code>
<code>/usr/local/sersync/sersync2 -d -o /usr/local/sersync/bbs_confxml.xml</code>
<code>/usr/local/sersync/sersync2 -d -o /usr/local/sersync/blog_confxml.xml</code>
<code># 多实例初始化同步命令:</code>
<code>/usr/local/sersync/sersync2 -r-d -o /usr/local/sersync/www_confxml.xml</code>
<code>/usr/local/sersync/sersync2 -r-d -o /usr/local/sersync/bbs_confxml.xml</code>
<code>/usr/local/sersync/sersync2 -r-d -o /usr/local/sersync/blog_confxml.xml</code>
<code> </code>
<code>/bin/cp /etc/rc.local/etc/rc.local_$(data +%F)</code>
<code>cat>>/etc/rc.local<<EOF</code>
<code>#sync data to </code><code>25</code> <code>26</code>
<code>EOF</code>
压测:写入10K个文件批量同步测试结果:
<code># </code><code>for</code> <code>n </code><code>in</code> <code>`seq </code><code>10000</code><code>`;</code><code>do</code> <code>echodddd>www/$n.txt;done</code>
<code># ps -ef |greprsync</code>
<code>root </code><code>17283</code> <code>1</code> <code>0</code> <code>Jun05 ? </code><code>00</code><code>:</code><code>00</code><code>:</code><code>02</code> <code>/usr/local/sersync/sersync2 -d-r -o /usr/local/sersync/confxml.xml</code>
<code>root </code><code>19363</code> <code>1</code> <code>0</code> <code>Jun05 ? </code><code>00</code><code>:</code><code>00</code><code>:</code><code>01</code> <code>/usr/local/sersync/bin -d -o/usr/local/sersync/confxml.xml</code>
<code>root </code><code>19394</code> <code>1</code> <code>0</code> <code>Jun05 ? </code><code>00</code><code>:</code><code>00</code><code>:</code><code>01</code> <code>/usr/local/sersync/bin -r -d-o /usr/local/sersync/confxml.xml</code>
<code>root </code><code>19414</code> <code>1</code> <code>0</code> <code>Jun05 ? </code><code>00</code><code>:</code><code>00</code><code>:</code><code>01</code> <code>/usr/local/sersync/bin -r -d-o /usr/local/sersync/confxml.xml</code>
<code>root </code><code>29484</code> <code>17283</code> <code>0</code> <code>01</code><code>:</code><code>33</code> <code>? </code><code>00</code><code>:</code><code>00</code><code>:</code><code>00</code> <code>sh -c cd /data/www &&rsync -artuz -R --timeout=</code><code>100</code><code>"./395.txt"</code> <code>rsync_backup@</code><code>172.16</code><code>.</code><code>1.25</code><code>::www--password-file=/etc/rsync.password >/dev/</code><code>null</code> <code>2</code><code>>&</code><code>1</code>
<code>root </code><code>29487</code> <code>29484</code> <code>0</code> <code>01</code><code>:</code><code>33</code> <code>? </code><code>00</code><code>:</code><code>00</code><code>:</code><code>00</code> <code>rsync -artuz -R --timeout=</code><code>100</code><code>./</code><code>395</code><code>.txt rsync_backup@</code><code>172.16</code><code>.</code><code>1.25</code><code>::www --password-file=/etc/rsync.password</code>
<code>root </code><code>29490</code> <code>17283</code> <code>0</code> <code>01</code><code>:</code><code>33</code> <code>? </code><code>00</code><code>:</code><code>00</code><code>:</code><code>00</code> <code>sh -c cd /data/www &&rsync -artuz -R --timeout=</code><code>100</code><code>"./396.txt"</code> <code>rsync_backup@</code><code>172.16</code><code>.</code><code>1.25</code><code>::www--password-file=/etc/rsync.password >/dev/</code><code>null</code> <code>2</code><code>>&</code><code>1</code>
<code>提示:我们发现本地已经写完了</code><code>10000</code><code>个,但是同步的线程,依然在同步;甚至才同步了</code><code>1000</code><code>多个</code>
2.6 检查节点是否同步成功
WEB1 同步查看对比
WEB2 同步查看对比
[root@web1 data]# du /data/www/
26944 /data/www/
26964 /data/www/
27024 /data/www/
27036 /data/www/
[root@web2 data]# du /data/www/
26880 /data/www/
26908 /data/www/
26940 /data/www/
26960 /data/www/
每秒同步20--30个文件
每秒同步20-30个文件
三、命令参数说明
Sersync参数
说明
./sersync -r
-r参数作用是:开启实时监控的之前对主服务器目录与远程目标机器的目录进行一次整体同步;如果需要将sersync运行前,主服务器目录下已经存在的所有文件或目录全部同步到远端,则要以 -r参数运行sersync,将本地与远程整体同步一次;
提别说明:如果设置了过滤器,即在xml文件中,filter为true,则暂时不能使用-r参数进行整体同步;
./sersync -o xx.xml
不指定 -o参数: sersync使用sersync可执行文件目录下的默认配置文件confxml.xml
指定 -o 参数:可以指定多个不同的配置文件,从而实现sersync多进程多实例的数据同步
./sersync -n num
-n参数为:指定默认的线程池的线程总数;
例如: ./sersync -n 5 则指定线程总数为5,如果不指定,默认启动线程池数量是10,如果cpu使用过高,可以通过该参数调低,如果机器配置较高,可以调高默认的线程总数,提升同步效率;
./sersync -d
-d参数为:后台服务,通常情况下使用 -r参数对本地到远端整体同步一遍后,在后台运行此参数启动守护进程实时同步;在第一次整体同步时,-d 和 -r参数经常会联合使用;
./sersync -m
pluginName
-m参数:不进行同步,只运行插件 ./sersync -m pluginName
例如:./sersync -m command,则在监控到事件后,不对远程目标服务器进行同步,而是直接运行command插件
组合命令使用说明:
-n 8 -o liubl.xml -r -d
多个参数可以配合使用,例如:./sersync -n 16 -o config.xml -r -d 表示设置线程池工作线程为16个,指定liubl.xml作为配置文件,在实时监控前 做一次整体同步,以守护进程方式在后台运行;
./sersync --help
很遗憾,它没有查看帮助(需要的话2条路,要么看源代码,要么自测求验证)
四、sersync服务配置文件参数详解
4.1 初始的配置文件
sersync可选功能是通过xml配置文件来实现的,基本配置文件如下:
<code>[root@cache sersync]# cat confxml.xml.</code><code>2015</code><code>-</code><code>06</code><code>-</code><code>05</code>
<code> </code><code>1</code> <code><?xml version=</code><code>"1.0"</code> <code>encoding=</code><code>"ISO-8859-1"</code><code>?></code>
<code> </code><code>2</code> <code><head version=</code><code>"2.5"</code><code>></code>
<code> </code><code>3</code> <code><host hostip=</code><code>"localhost"</code> <code>port=</code><code>"8008"</code><code>></host></code>
<code> </code><code>4</code> <code><debug start=</code><code>"false"</code><code>/></code>
<code> </code><code>5</code> <code><fileSystem xfs=</code><code>"false"</code><code>/></code>
<code> </code><code>6</code> <code><filter start=</code><code>"false"</code><code>></code>
<code> </code><code>7</code> <code><exclude expression=</code><code>"(.*)\.svn"</code><code>></exclude></code>
<code> </code><code>8</code> <code><exclude expression=</code><code>"(.*)\.gz"</code><code>></exclude></code>
<code> </code><code>9</code> <code><exclude expression=</code><code>"^info/*"</code><code>></exclude></code>
<code> </code><code>10</code> <code><exclude expression=</code><code>"^static/*"</code><code>></exclude></code>
<code> </code><code>11</code> <code></filter></code>
<code> </code><code>12</code> <code><inotify></code>
<code> </code><code>13</code> <code><</code><code>delete</code> <code>start=</code><code>"true"</code><code>/></code>
<code> </code><code>14</code> <code><createFolder start=</code><code>"true"</code><code>/></code>
<code> </code><code>15</code> <code><createFile start=</code><code>"false"</code><code>/></code>
<code> </code><code>16</code> <code><closeWrite start=</code><code>"true"</code><code>/></code>
<code> </code><code>17</code> <code><moveFrom start=</code><code>"true"</code><code>/></code>
<code> </code><code>18</code> <code><moveTo start=</code><code>"true"</code><code>/></code>
<code> </code><code>19</code> <code><attrib start=</code><code>"false"</code><code>/></code>
<code> </code><code>20</code> <code><modify start=</code><code>"false"</code><code>/></code>
<code> </code><code>21</code> <code></inotify></code>
<code> </code><code>22</code>
<code> </code><code>23</code> <code><sersync></code>
<code> </code><code>24</code> <code><localpath watch=</code><code>"/opt/tongbu"</code><code>></code>
<code> </code><code>25</code> <code><remoteip=</code><code>"127.0.0.1"</code> <code>name=</code><code>"tongbu1"</code><code>/></code>
<code> </code><code>26</code> <code><!--<remoteip=</code><code>"192.168.8.39"</code> <code>name=</code><code>"tongbu"</code><code>/>--></code>
<code> </code><code>27</code> <code><!--<remoteip=</code><code>"192.168.8.40"</code> <code>name=</code><code>"tongbu"</code><code>/>--></code>
<code> </code><code>28</code> <code></localpath></code>
<code> </code><code>29</code> <code><rsync></code>
<code> </code><code>30</code> <code><commonParamsparams=</code><code>"-artuz"</code><code>/></code>
<code> </code><code>31</code> <code><auth start=</code><code>"false"</code><code>users=</code><code>"root"</code> <code>passwordfile=</code><code>"/etc/rsync.pas"</code><code>/></code>
<code> </code><code>32</code> <code><userDefinedPortstart=</code><code>"false"</code> <code>port=</code><code>"874"</code><code>/><!-- port=</code><code>874</code> <code>--></code>
<code> </code><code>33</code> <code><timeoutstart=</code><code>"false"</code> <code>time=</code><code>"100"</code><code>/><!-- timeout=</code><code>100</code> <code>--></code>
<code> </code><code>34</code> <code><sshstart=</code><code>"false"</code><code>/></code>
<code> </code><code>35</code> <code></rsync></code>
<code> </code><code>36</code> <code><failLog path=</code><code>"/tmp/rsync_fail_log.sh"</code><code>timeToExecute=</code><code>"60"</code><code>/><!--</code><code>default</code> <code>every 60mins execute once--></code>
<code> </code><code>37</code> <code><crontab start=</code><code>"false"</code><code>schedule=</code><code>"600"</code><code>><!--600mins--></code>
<code> </code><code>38</code> <code><crontabfilterstart=</code><code>"false"</code><code>></code>
<code> </code><code>39</code> <code><excludeexpression=</code><code>"*.php"</code><code>></exclude></code>
<code> </code><code>40</code> <code><excludeexpression=</code><code>"info/*"</code><code>></exclude></code>
<code> </code><code>41</code> <code></crontabfilter></code>
<code> </code><code>42</code> <code></crontab></code>
<code> </code><code>43</code> <code><plugin start=</code><code>"false"</code> <code>name=</code><code>"command"</code><code>/></code>
<code> </code><code>44</code> <code></sersync></code>
<code> </code><code>45</code>
<code> </code><code>46</code> <code><plugin name=</code><code>"command"</code><code>></code>
<code> </code><code>47</code> <code><param prefix=</code><code>"/bin/sh"</code> <code>suffix=</code><code>""</code><code>ignoreError=</code><code>"true"</code><code>/> <!--prefix /opt/tongbu/mmm.sh suffix--></code>
<code> </code><code>48</code> <code><filter start=</code><code>"false"</code><code>></code>
<code> </code><code>49</code> <code><includeexpression=</code><code>"(.*)\.php"</code><code>/></code>
<code> </code><code>50</code> <code><includeexpression=</code><code>"(.*)\.sh"</code><code>/></code>
<code> </code><code>51</code> <code></filter></code>
<code> </code><code>52</code> <code></plugin></code>
<code> </code><code>53</code>
<code> </code><code>54</code> <code><plugin name=</code><code>"socket"</code><code>></code>
<code> </code><code>55</code> <code><localpath watch=</code><code>"/opt/tongbu"</code><code>></code>
<code> </code><code>56</code> <code><deshostip=</code><code>"192.168.138.20"</code> <code>port=</code><code>"8009"</code><code>/></code>
<code> </code><code>57</code> <code></localpath></code>
<code> </code><code>58</code> <code></plugin></code>
<code> </code><code>59</code> <code><plugin name=</code><code>"refreshCDN"</code><code>></code>
<code> </code><code>60</code> <code><localpath watch=</code><code>"/data0/htdocs/cms.xoyo.com/site/"</code><code>></code>
<code> </code><code>61</code> <code><cdninfodomainname=</code><code>"ccms.chinacache.com"</code> <code>port=</code><code>"80"</code><code>username=</code><code>"xxxx"</code> <code>passwd=</code><code>"xxxx"</code><code>/></code>
<code> </code><code>62</code> <code><sendurlbase=</code><code>"http://pic.xoyo.com/cms"</code><code>/></code>
<code> </code><code>63</code> <code><regexurlregex=</code><code>"false"</code> <code>match=</code><code>"cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"</code><code>/></code>
<code> </code><code>64</code> <code></localpath></code>
<code> </code><code>65</code> <code></plugin></code>
<code> </code><code>66</code> <code></head></code>
4.2 xml配置文件说明
说明: xml配置文件的注释不用“#”,而是<!-- 中间是注释内容 -->
<code> </code><code>3</code> <code><host hostip=</code><code>"localhost"</code><code>port=</code><code>"8008"</code><code>></host></code>
hostip与port是针对插件的保留字段,对于同步功能没有任何作用,保留默认即可;
4.3 Debug开启开关
设置为true,表示开启debug模式,会在sersync正在运行的控制台打印inotify时间与rsync同步命令;
4.4 XFS文件系统开关
对于xfs文件系统的用户,需要将这个选项开启,才能使用sersync正常工作;
4.5 filter文件过滤功能
说明:一般情况下,不给客户端添加过滤,如有必要才添加;
对于大多数应用,可以尝试把createFile(监控文件事件选项)设置为false来提高性能,减少rsync通讯;
因为拷贝文件到监控目录会产生create事件与close_write事件,所以如果关闭create事件,只监控文件拷贝结束时的时间close_write,同样可以实现文件完整同步;
注意:强将creatFolder保持为true,如果将createFolder设为false,则不会对产生的目录进行监控,该目录下的子文件与子目录也不会被监控;所以除非特殊需要,请开启; 默认情况下对创建文件(目录)事件与删除文件(目录)事件都进行监控,如果项目中不需要删除远程目标服务器的文件(目录),则可以将delete参数设置为false,则不对删除事件进行监控;
本文转自奔跑在路上博客51CTO博客,原文链接http://blog.51cto.com/qiangsh/1871844如需转载请自行联系原作者
qianghong000