网站建设资讯

NEWS

网站建设资讯

sersync实时同步

1.1.1 sersync的特点

  • 支持配置文件管理

    创新互联公司坚持“要么做到,要么别承诺”的工作理念,服务领域包括:做网站、成都做网站、企业官网、英文网站、手机端网站、网站推广等服务,满足客户于互联网时代的鹤岗网站设计、移动媒体设计的需求,帮助企业找到有效的互联网解决方案。努力成为您成熟可靠的网络建设合作伙伴!

  • 真正的守护进程socket

  • 可以对失败文件定时重传(定时任务功能)

  • 第三方的HTTP接口(例如更新cdn缓存)

  • 默认多线程同步

  • sersync配置文件

  • 安装sersync(一)

[root@nfs01 local]# rz -E                  ##window安装包上传至Linux

rz waiting to receive.

[root@nfs01 local]# ls

28-sersync.tar.gz  bin etc  games  include lib  lib64  libexec sbin  share  src

[root@nfs01 local]# tar   xf 28-sersync.tar.gz

[root@nfs01 local]# ls

28-sersync.tar.gz  etc   include  lib64    sbin    share

bin                games  lib     libexec  sersync  src

注:软件包可以从网上下载,然后上传到Linux中,解压到/usr/local/下面

                           

1.1.2.2修改sersync配置文件(二)

[root@nfs01 conf]# vim/usr/local/sersync/conf/confxml.xml

   

   

   

###软件的过滤功能,排除指定的文件,不进行同步

 

   

     

     

     

     

   

###过滤功能结束

 

##sersync软件监控指定事件信息:表示触发监控管理的事件。

   

     

     

     

     

     

     

     

     

   

##sersync软件监控指定事件信息结束

 

###sersync主要参数配置信息开始(可修改此部分)

   

                  ###指定监控的本地目录信息为/data

                rsync服务器与模块信息

         

         

     

 

###sersync主要参数配置信息部分

     

         

         

         

         

         

     

###sersync主要参数配置信息部分结束

 

                        ##定义失败的默认日志信息

     

         

            

            

         

     

     

   

 

   

        

     

         

         

     

   

 

   

     

         

     

   

   

     

         

         

         

     

   

[root@nfs01 conf]#

sersync的帮助信息:

[root@nfs01 bin]#/usr/local/sersync/bin/sersync -help

set the system param

execute:echo 50000000 >/proc/sys/fs/inotify/max_user_watches

execute:echo 327679 >/proc/sys/fs/inotify/max_queued_events

parse the command param

_______________________________________________________

参数-d:启用守护进程模式

参数-r:在监控前,将监控目录与远程主机用rsync命令推送一遍

c参数-n: 指定开启守护线程的数量,默认为10个

参数-o:指定配置文件,默认使用confxml.xml文件

参数-m:单独启用其他模块,使用 -m refreshCDN 开启刷新CDN模块

参数-m:单独启用其他模块,使用 -m socket 开启socket模块

参数-m:单独启用其他模块,使用 -mhttp 开启http模块

不加-m参数,则默认执行同步程序

________________________________________________________________

[root@nfs01 bin]#

1.1.2.3配置sersync的命令(三)

[root@nfs01 bin]# which sersync                   ###配置完配置文件,但是系统并没有sersync这个命令

/usr/bin/which: no sersync in (/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin:/root/bin)

1,###追加环境变量

[root@nfs01 bin]# echo"export PATH=$PATH:/usr/local/sersync/bin" >>/etc/profile

[root@nfs01 bin]# tail -n 2/etc/profile

unset -f pathmunge

export PATH=/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin:/root/bin:/usr/local/sersync/bin

[root@nfs01 bin]# which sersync

/usr/bin/which: no sersync in(/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin:/root/bin)

2,###生效环境变量配置文件

[root@nfs01 bin]#source /etc/profile

[root@nfs01 bin]# which sersync

/usr/local/sersync/bin/sersync

[root@nfs01 bin]#

1.1.2.4启动sersync命令(四)

在NFS客户端上配置sersync,启动命令。

[root@nfs01 data]#sersync -dro /usr/local/sersync/conf/confxml.xml

set the system param

execute:echo 50000000 >/proc/sys/fs/inotify/max_user_watches

execute:echo 327679 >/proc/sys/fs/inotify/max_queued_events

parse the command param

option: -d   run as a daemon

option: -r    rsync all the local files to the remote servers before the sersyncwork

option: -o    config xml name: /usr/local/sersync/conf/confxml.xml

daemon thread num: 10

parse xml config file

host ip : localhost      host port: 8008

daemon start,sersync run behind the console

use rsync password-file :

user is   rsync_backup

passwordfile is  /etc/rsync.password

config xml parse success

please set /etc/rsyncd.conf maxconnections=0 Manually

sersync working thread 12  = 1(primary thread) + 1(fail retry thread) +10(daemon sub threads)

Max threads numbers is: 22 =12(Thread pool nums) + 10(Sub threads)

please according your cpu ,use -n param to adjust the cpurate

chmod: cannot access`/application/logs/rsync_fail_log.sh': No such file or directory

------------------------------------------

rsync the directory recursivly to theremote servers once

working please wait...

execute command: cd /data &&rsync -avz -R --delete ./  --timeout=100rsync_backup@172.16.1.41::nfsbackup --password-file=/etc/rsync.password>/dev/null 2>&1

run the sersync:

watch path is: /data

[root@nfs01 data]#

在服务器上查看/backup文件中变化

[root@backup nfsbackup]# rm -fr *

[root@backup nfsbackup]# ls

[root@backup nfsbackup]# ls

3 4  hehe  maomao oldboy

[root@backup nfsbackup]#

  • sersync的参数

-r  开启第一次进行一次完全的同步,保持一致

-o指定confxml.xml 的文件

-n 指定默认线程池的线程总数,如果不指定默认启动线程池的数量是10,CPU使用过高,可以通过这个参数进行调整

-d参数为后台启动

-m 不同步,只运行插件

1.2 高并发数据实时同步方案小结:

  • inotify(sersync)+rsync,是文件级别的。

  • drbd文件系统级别,基于block块同步,但是备节点数据不可用。

  • 第三方软件的同步功能:MySQL,oracle,MongoDB

  • 程序双写,直接写双台服务器

  • 利用业务逻辑解决(读写分离)

  • NFS集群(1 4 5 方案整合)(双写主存储,备用存储 inotify/sersync+rsync),没有解决延迟问题。


文章标题:sersync实时同步
URL分享:http://njwzjz.com/article/gdcesi.html