Rsync+inotify
Inotify是一个通知接口，用来监控文件系统的各种变化，如果文件存取，删除，移动。可以非常方便地实现文件异动告警，增量备份，并针对目录或文件的变化及时作出响应。rsync+inotify可以实触发式实时同步增量备份
案例: 实现web上传视频文件，写入NFS共享存储，然后将NFS存储内容实时复制至Backup服务器
环境准备
角色 外网IP(NAT) 内网IP(LAN) 安装工具
Rsync-server eth0:10.0.0.41 eth1:172.16.1.41 rsync-server
nfs-server eth0:10.0.0.31 eth1:172.16.1.31 rsync+inotify
web01 eth0:10.0.0.7 eth1:172.16.1.7 nginx+php
Rsync-Server操作步骤如下:
1.安装rsync
[root@backup-41 ~]# yum install -y rsyncd
2.配置rsync
[root@backup-41 ~]# vim /etc/rsyncd.conf
uid = rsync
gid = rsync
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = false
auth users = rsync_backup
secrets file = /etc/rsync.password
log file = /var/log/rsyncd.log
#####################################
[backup]
path = /backup
[data]
path = /data
准备密码文件以及虚拟用户对应的虚拟密码
[root@backup-41 ~]# cat /etc/rsync.password
rsync_backup:123456
[root@backup-41 ~]# ll /etc/rsync.password
-rw------- 1 root root 20 Jul 23 11:42 /etc/rsync.password
创建backup data仓库目录
[root@backup-41 ~]# mkdir /backup
[root@backup-41 ~]# chown -R rsync.rsync /backup/
[root@backup-41 ~]# mkdir /data
[root@backup-41 ~]# chown -R rsync.rsync /data/
3.启动rsync
[root@backup-41 ~]# systemctl restart rsyncd
[root@backup-41 ~]# netstat -lntp|grep rsync
tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 1372/rsync
4.nfs客户端验证rsync是否正常使用
[root@nfs01 ~]# rsync -avz /root/oldboy [email protected]::backup
Password:
sending incremental file list
oldboy
[root@nfs01 ~]# rsync -avz /root/oldboy [email protected]::data
NFS-Server操作步骤如下:
1.安装nfs
[root@nfs01 ~]# yum install nfs-utils rpcbind -y
2.配置nfs
[root@nfs01 ~]# cat /etc/exports
/data/ 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
[root@nfs01 ~]# id www
uid=666(www) gid=666(www) groups=666(www)
[root@nfs01 ~]# mkdir /data
[root@nfs01 ~]# mkdir /data/www
[root@nfs01 ~]# chown -R www.www /data
[root@nfs01 ~]# ll -d /data/
drwxr-xr-x 5 www www 98 Jul 26 09:29 /data/
[root@nfs01 /]# ll -d /data/www/
drwxr-xr-x 2 root root 6 Jul 27 10:40 /data/www/
3.启动nfs
[root@nfs01 ~]# systemctl restart rpcbind
[root@nfs01 ~]# systemctl restart nfs-server
4.安装inotify
[root@nfs01 ~]# yum install inotify-tools rsync -y
5.配置inotify
在linux内核中，默认的inotify机制提供了三个调控参数：
[root@nfs01 ~]# ls /proc/sys/fs/inotify/
max_queued_events #设置监控服务实例可以监控的事件个数
max_user_instances #设置用户可以开启的服务进程数
max_user_watches #可以监控的最大文件数
参数值修改
cat >> /etc/sysctl.conf <<EOF
fs.inotify.max_queued_events=99999999
fs.inotify.max_user_watches=99999999
fs.inotify.max_user_instances=65535
EOF
使修改的参数生效
[root@nfs01 ~]# sysctl -p
inotify工具中常用于实时同步的命令是inotifywait(监控文件或目录的变化),如下列出常用参数
-m 表示持续监控
-r 递归形式监视目录
-q 简化输出信息
-e 指定要监视的事件(create,move,delete,modify)
--timefmt 自定义时间格式,常用参数'%y/%m/%d %H:%M'
--format 自定义输出格式信息, 常用的格式符如下
%e: 使用了什么事件
%T: 时间
%w：显示被监控文件的文件名；
%f：如果发生某事件的对象是目录，则显示被监控
6.利用inotifywait实现数据实时监控
[root@nfs01 ~]# inotifywait -mrq --format '%e %T %w%f' --timefmt '%y/%m/%d %H:%M' -e close_write,modify,delete,create,move /backup/
7.使用inotifywait配合rsync实现实时同步脚本
[root@nfs01 ~]# vim /server/scripts/inotify_rsync.sh
#!/bin/bash
export RSYNC_PASSWORD=123456
SRC=/data/
[email protected]::backup/
inotifywait -mrq -e modify,delete,create,attrib ${SRC} | while read file
do
rsync -az --delete $SRC $DST
done
[root@nfs01 ~]# chmod +x /server/scripts/inotify_rsync.sh
web01操作步骤如下:
1.安装nginx+php以及nfs相关工具
[root@web01 ~]# yum install nginx php php-fpm php-pdo nfs-utils rpcbind -y
2.配置nfs-client
[root@web01 ~]# mkdir /data/www
[root@web01 ~]# mount -t nfs 172.16.1.31:/data/www /data/www/
#加入开机自动挂载该nfs设备
[root@web01 ~]# tail -n1 /etc/fstab
172.16.1.31:/data/www /data/www nfs defaults 0 0
[root@web01 ~]# umount /data/www/
[root@web01 ~]# mount -a
[root@web01 ~]# df -h
Filesystem Size Used Avail Use% Mounted on
172.16.1.31:/data/www 50G 1.6G 49G 4% /data/www
3.配置nginx
[root@web01 ~]# vim /etc/nginx/nginx.conf
user www;
worker_processes 1;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
sendfile on;
keepalive_timeout 65;
server {
listen 80;
root /data/www;
index index.php index.html index.htm;
autoindex on;
location ~ .php$ {
fastcgi_pass 127.0.0.1:9000;
fastcgi_index index.php;
fastcgi_param SCRIPT_FILENAME /data/www$fastcgi_script_name;
include fastcgi_params;
#注意：nginx修改运行用户需要调整对应的临时目录权限
[root@web01 ~]# chown -R www.www /var/lib/nginx/
4.修改php程序运行的属主和属组，统一用户id
[root@web01 ~]# sed -i 's#user = apache#user = www#g' /etc/php-fpm.d/www.conf
[root@web01 ~]# sed -i 's#group = apache#group = www#g' /etc/php-fpm.d/www.conf
[root@web01 ~]# egrep "^user|^group" /etc/php-fpm.d/www.conf
user = www
group = www
5.启动nginx+php
[root@web01 ~]# systemctl start nginx php-fpm
[root@web01 ~]# netstat -lntp|egrep "nginx|php"
tcp 0 0 127.0.0.1:9000 0.0.0.0: LISTEN 1661/php-fpm: maste
tcp 0 0 0.0.0.0:80 0.0.0.0: LISTEN 1670/nginx: master
6.上传对应代码至网站目录，然后进行附件提交测试
backup补充部分:与nfs-server保持高度一致
[root@backup-41 ~]# yum install nfs-utils -y
[root@backup-41 ~]# cat /etc/exports
[root@backup-41 ~]# systemctl enable nfs-server
[root@backup-41 ~]# systemctl start nfs-server
架构补充部分：进程至后台
[root@nfs01 ~]# yum install screen -y
[root@nfs01 ~]# screen -S Socket_name #建议指定一个名称
####进入screen会话---->
1.强制关闭终端
2.ctrl+a+d 退出scrren，但不会结束当前在screen运行的程序
注意： 使用exit会结束screen整个会话
[root@nfs01 ~]# screen -r [pid|socket_name] #如果指定名称，如果没有指定名称需要使用pid
1.前端页面上传文件->web服务器
2.web存放的代码和附件目录是挂载至nfs存储上
3.web->nfs->backup
nfs故障
在web上卸载nfs的挂载信息
重新挂载至backup
nfs-server：模拟nfs故障
[root@nfs01 ~]# systemctl stop nfs-server
1.web01处理操作，卸载当前已down的nfs-server，然后重新挂载至backup服务器，解决。
[root@web01 ~]# umount -lf /data/www && mount -t nfs 172.16.1.41:/data/www /data/www/
172.16.1.41:/data/www 50G 2.2G 48G 5% /data/www
注意：此时还是无法正常访问web，因为rsync使用的rsync用户管理目录
[root@backup-41 ~]# cat /etc/rsyncd.conf #变更如下配置
uid = www
gid = www
[root@backup-41 ~]# chown -R www.www /data/
[root@backup-41 ~]# chown -R www.www /backup/
nfs-server：nfs故障后恢复
#1.修复nfs-server后，手动拉取backup下的所有数据，保持一致。
rsync -avz --delete [email protected]::data /data/
#2.在web上卸载，然后重新挂载至nfs存储
[root@web01 ~]# umount /data/www/ && mount -t nfs 172.16.1.31:/data/www /data/www
sersync实时同步
sersync是国人基于rsync+inotify-tools开发的工具，不仅保留了优点同时还强化了实时监控，文件过滤，简化配置等功能，帮助用户提高运行效率，节省时间和网络资源。
sersync优点
1）支持通过配置文件管理
2）真正的守护进程socket（不需要写脚本）。
3）可以对失败文件定时重传（定时任务功能）。
4）第三方的HTTP接口（例如更新cdn缓存）。
5）默认多线程rsync同步。
sersync项目地址
nfs-server eth0:10.0.0.31 eth1:172.16.1.31 rsync+inotify+sersync
backup eth0:10.0.0.41 eth1:172.16.1.41 rsync-server
Backup操作步骤如下
[root@backup-41 ~]# yum install rsync -y
[root@backup-41 ~]# cat /etc/rsyncd.conf
建立对应密码文件
[root@backup-41 ~]# echo "rsync_backup:123456" > /etc/rsync.password
4.创建对应目录并授权
[root@backup-41 ~]# groupadd -g 666 www
[root@backup-41 ~]# useradd -u 666 -g www www
[root@backup-41 ~]# id www
[root@backup-41 ~]# mkdir -p /{backup,data}
[root@backup-41 ~]# chown -R www.www /{backup,data}
5.启动rsync
[root@backup-41 ~]# systemctl enable rsyncd
[root@backup-41 ~]# systemctl start rsyncd
[root@backup-41 ~]# netstat -lntp
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address Foreign Address State PID/Program name
tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 1680/rsync
Nfs-Server操作步骤如下
1.安装sersync
sersync需要依赖inotify和rsync，所以需要安装对应软件
[root@nfs01 ~]# yum install rsync inotify -y
安装sersync
[root@nfs01 ~]# mkdir /server/tools -p
[root@nfs01 ~]# cd /server/tools/
[root@nfs01 tools]# wget https://raw.githubusercontent.com/wsgzao/sersync/master/sersync2.5.4_64bit_binary_stable_final.tar.gz
[root@nfs01 tools]# tar xf sersync2.5.4_64bit_binary_stable_final.tar.gz
[root@nfs01 tools]# mv GNU-Linux-x86/ /usr/local/sersync
[root@nfs01 tools]# cd /usr/local/sersync/
[root@nfs01 sersync]# cp confxml.xml confxml.bak
[root@nfs01 sersync]# vim confxml.xml
5 <fileSystem xfs="true"/> <!-- 文件系统 -->
6 <filter start="false"> <!-- 排除不想同步的文件-->
7 <exclude expression="(.).svn"></exclude>
8 <exclude expression="(.).gz"></exclude>
9 <exclude expression="^info/"></exclude>
10 <exclude expression="^static/"></exclude>
11 </filter>
12 <inotify> <!-- 监控的事件类型 -->
13 <delete start="true"/>
14 <createFolder start="true"/>
15 <createFile start="true"/>
16 <closeWrite start="true"/>
17 <moveFrom start="true"/>
18 <moveTo start="true"/>
19 <attrib start="false"/>
20 <modify start="false"/>
21 </inotify>
23 <sersync>
24 <localpath watch="/data/www"> <!-- 监控的目录 -->
25 <remote ip="172.16.1.41" name="data"/> <!-- backup的IP以及模块 -->
26 <!--<remote ip="192.168.8.39" name="tongbu"/>-->
27 <!--<remote ip="192.168.8.40" name="tongbu"/>-->
28 </localpath>
29 <rsync> <!-- rsync的选项 -->
30 <commonParams params="-az"/>
31 <auth start="true" users="rsync_backup" passwordfile="/etc/rsync.password"/>
32 <userDefinedPort start="false" port="874"/><!-- port=874 -->
33 <timeout start="true" time="100"/><!-- timeout=100 -->
34 <ssh start="false"/>
35 </rsync>
<!-- 每60分钟执行一次同步--> 36 <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--def
ault every 60mins execute once-->
3.启动sersync服务守护进程
![SqlServer数据库附加、备份、与生成sql脚本的应用解析[图]](data:image/gif;base64,R0lGODlhAQABAIAAAP///wAAACwAAAAAAQABAAACAkQBADs=)