r1 - 10 Sep 2008 - 07:26:51 - Main.yfangYou are here: YWiki >  MyTech Web > Rsync实现远程备份和镜像

Rsync实现远程备份和镜像

实验文档

#=======================================
#===Author  : yang.fang              ===
#===Email   : yangfang@fudan.edu.cn  ===
#===MSN     : yang.fang@adways.net   ===
#===QQ      : 78461151               ===
#===HomePage: www.yfang.cn           ===
#=======================================

  • 完成于 2006.12.19

  • 目标: 从Server1的/home/yfang同步Server2的/home/yfang,也就是说是Server2和Server1的这个目录同步,当然也可以做远程备份
  • 测试环境: 两台CentOS,
    • Server71 192.168.1.71 (CentOS4.2,rsync version 2.6.3 protocol version 28)
    • Server107 192.168.11.107 (CentOS4.4,rsync version 2.6.3 protocol version 28)
  • 日期: 2006.12.19
  • 作者: 杨方

rsync简介

  • rsync(remote sync)是一个十分强大的数据镜像备份工具,官方网站是http://rsync.samba.org/,目前的最新版是2.6.9(2006.11.6发布)

  1. 可以镜像保存整个目录树和文件系统。
  2. 可以很容易做到保持原来文件的权限、时间、软硬链接等等。
  3. 无须特殊权限即可安装。
  4. 优化的流程,文件传输效率高。
  5. 可以使用rcp、ssh等方式来传输文件,当然也可以通过直接的socket连接。
  6. 支持匿名传输。

把man rsync的前面一段参数格式是用方法贴上来:

  1. rsync [OPTION]... SRC [SRC]... [USER@]HOST:DEST
  2. rsync [OPTION]... [USER@]HOST:SRC DEST
  3. rsync [OPTION]... SRC [SRC]... DEST
  4. rsync [OPTION]... [USER@]HOST::SRC [DEST]
  5. rsync [OPTION]... SRC [SRC]... [USER@]HOST::DEST
  6. rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]
  7. rsync [OPTION]... SRC [SRC]... rsync://[USER@]HOST[:PORT]/DEST

  • 根据后面的测试表明1,2,3三种应用和后面的4,5,6,7是不一样的,前者的同步对象是文件(当然你知道,linux认为文件夹也是文件),而后者的同步对象是模块(这个概念是rsync自己定的,在后面的/etc/rsync.conf设定中会详细说明)

  • 很多参数是只对模块同步起作用的,比如--delete,当然,这往往是必要的,比如你需要时时同步几台服务器让他们尽量看起来一样(比如负载均衡).

  • 既然后面一种方式如此强大,为什么不用后面一种取代前面一种呢?我的理解是,功能的强大是有代价的,第二种模式下要求你必须在Server端开启一个服务简单的理解,很像你开了一个ftp服务器,不管你是上传还是下载,总要开一个服务在那里,当然你还要长期牺牲一个端口(默认是873),还有服务长期占用的资源,还有,你不得不自己去写一个conf文件,虽然这个很简单。而很多时候你的要求不需要强制同步,比如你只要备份一下自己的某些文件或是一个目录,你用第一种方式可能更为便捷,无论是本地备份或是异地备份。

  • 在这里简单举两个例子分别说明两种方式。(不管哪种方式,必须要知道客户端和服务段都是必须安装好rsync的)

  • 例1. 远程同步数据(方法1)
   
#假如你想把Server71下的/home/yfang目录同步到Server107的 /opt/yfang_bak,如同ftp或者scp一样,在Server71上执行简单的一条命令 
rsync -av /home/yfang 192.168.11.107:/opt/yfang_bak
#是不是看上去有点眼熟,和scp的命令太像了
      
#这样他会让你输入root密码的,输入之后,就能看到传输的结果了,更新了哪些文件都会列出来
#这里说明一下参数,-a是个不错的参数,它相当于-rlptgoD,也就是递归,保留符号连接,保留权限,各种时间信息,所有组,所有者,设备信息
#这是一个很经典的参数,当然你需要只要其他参数的意义,以灵活的满足你的要求,-v表明打印传输信息。
      
#注意:这条命令执行的结果未必是你想象的样子,看一下/opt/yfang_bak下面,多了一个文件夹yfang
# 如果你想把yfang下的内容同步过来,可以执行
rsync -av /home/yfang/ 192.168.11.107:/opt/yfang_bak
# 如果/home/yfang下的某个文件被更改了,再次执行这条命令,可以实现文件更新
     
#如果有些经验,自然会知道-a保留下来的所有者信息和组信息是靠id号码存的,所以如果有一个文件的所有者是yfang,这个用户在Server71上的id是500,而在Server107上不存在id是500的用户,同步后显示文件信息会显示所有者500,这还是好的,如果在Server107上id为500的用户是yangfang,你就会看到这个文件所有者变成了yangfang,如果这时刚好有个id为501的yfang,你就会疑惑,为什么不是yfang而是,yangfang。
     
#还有就是如果Server71/home/yfang里的某个文件被删除,同步后Server107原有的文件是不会被删除的,即使你加上--delete参数。
     
#你会发现这样会让你有点不舒服,不过这种问题在备份数据的时候就完全没有了,备份数据的时候(这里以完全备份为例)你不需要考虑更新和覆盖,你用到的是rsync优秀的传输机制和稳定的性能。
     
#更多信息,请参见命令的说明并实践体验。
  • 例2. 远程备份数据(方法2)
# 按照下面的步骤做:
#    1. vi /etc/rsyncd.conf  (这个文件默认不存在)
     
		uid = nobody
		gid = nobody
		use chroot = no
		max connections = 4
		pid file = /var/run/rsyncd.pid
		lock file = /var/run/rsync.lock
		log file = /var/log/rsyncd.log
		
		[yfang]                                # 这里是前面提到的的模块名,客户端通过模块名来找资源,就像cvs一样
		path = /home/yfang/
		comment = my rsync dir yfang
		ignore errors                          # 可以忽略一些无关的IO错误
		read only = true                       # 这样就不能在客户端“上传”同步了
		list = false                           # 不允许列文件
		auth users = backup                    # 同步使用的用户(不是系统用户,信息存放在后面指定的文件里)
		hosts allow = 192.168.11.107/32        # 只允许192.168.11.107连接同步,没有这行默认allow all
		secrets file = /etc/rsyncd.pas         # 密码文件,用于存放rsync用户名和密码,明文,需要chmod600一下
		
		[module2]
		path = /tmp/test/
		comment = only for test
		ignore errors
		read only = true
		list = false
		auth users = user2
		hosts allow = 192.168.0.0/16
		secrets file = /etc/rsyncd.pas
		
#    2. 创建你的/etc/rsync.pas文件

    	echo backup:111111 >>/etc/rsyncd.pas
    	echo user2:222222 >>/etc/rsyncd.pas
    	chmod 600 /etc/rsyncd.pas
   
#    3. 启动“服务”: rsync --daemon

     设定开机自动启动方法有很多种:
     
    a、加入inetd.conf  
           编辑/etc/services,加入rsync   873/tcp,指定rsync的服务端口是873  
           编加/etc/inetd.conf,加入rsync  stream  tcp   nowait  root  /bin/rsync rsync --daemon  

    b、加入rc.local  
            在各种操作系统中,rc文件存放位置不尽相同,可以修改使系统启动时rsync --daemon加载进去。  
    
#    测试:到客户端(192.168.11.107)
    
       rsync -azv -–progress –-delete backup@192.168.1.71::yfang /tmp/ -–password-file=bak.pwd
   
#	   -av不解释了,-z表示压缩,--progress显示详细进度, --delete删除服务端没有客户端有的文件
#	   --password-file是指密码文件,自己写,只包含密码,其他的不要,chmod600一下
#	   当然你不想用文件保存的话也没有问题,他会提示让你输入私钥文件位置或者密码的
	   
#    其他常用参数
        --rsh=COMMAND           通常用私钥登陆时候需要的,"ssh -i /path/to/id_rsa -l yang.fang"
        --exclude               不同步哪些文件
        --existing              只同步存在的文件
        --ignore-existing       不同步已经存在的文件
        --force                 强行删掉非空目录
        --exclude=PATTERN       排除匹配模式的文件
        --exclude-from=FILE     排除列表中的文件
        --include=PATTERN       不排除匹配模式的问件
        --include-from=FILE     不排除列表中的文件
cat /usr/local/bin/rsync.sh  
#!/bin/sh  
DATE=`date +%w`  
rsync -vzrtopg --progress --delete inburst@192.168.168.52::inburst /home/quack/backup/$DATE --password-file=/etc/rsync.pass > /var/log/rsync.$DATE  
  • 自己看着修改一下就行了

  • 还有一点就是加入cron job
    • 比如:0 * * * * root /usr/local/bin/rsync.sh > /dev/null 2>&1 每个小时跑一次
  • 如果需要跟linux-windows主机同步的话,需要安装rsync-windows版,下载地址:http://itefix.no/cwrsync

以下资料来自 http://wwwfangqiang.com

Q:如何通过ssh进行rsync,而且无须输入密码?  
A:可以通过以下几个步骤  

1. 通过ssh-keygen在server A上建立SSH keys,不要指定密码,你会在~/.ssh下看到identity和identity.pub文件  
2. 在server B上的home目录建立子目录.ssh  
3. 将A的identity.pub拷贝到server B上  
4. 将identity.pub加到~[user b]/.ssh/authorized_keys  
5. 于是server A上的A用户,可通过下面命令以用户B ssh到server B上了  
                e.g. ssh -l userB serverB  
这样就使server A上的用户A就可以ssh以用户B的身份无需密码登陆到server B上了。  

Q:如何通过在不危害安全的情况下通过防火墙使用rsync?  
A:解答如下:  

这通常有两种情况,一种是服务器在防火墙内,一种是服务器在防火墙外。  
无论哪种情况,通常还是使用ssh,这时最好新建一个备份用户,并且配置sshd仅允许这个用户通过RSA认证方式进入。  
如果服务器在防火墙内,则最好限定客户端的IP地址,拒绝其它所有连接。  
如果客户机在防火墙内,则可以简单允许防火墙打开TCP端口22的ssh外发连接就ok了。  

Q:我能将更改过或者删除的文件也备份上来吗?  
A:当然可以:  

你可以使用如:rsync -other -options -backupdir = ./backup-2000-2-13  ...这样的命令来实现。  
这样如果源文件:/path/to/some/file.c改变了,那么旧的文件就会被移到./backup-2000-2-13/path/to/some/file.c, 
这里这个目录需要自己  

手工建立起来  

Q:我需要在防火墙上开放哪些端口以适应rsync?  
A:视情况而定  

rsync可以直接通过873端口的tcp连接传文件,也可以通过22端口的ssh来进行文件传递,但你也可以通过下列命令改变它的端口:  

rsync --port 8730 otherhost::  
或者  
rsync -e 'ssh -p 2002' otherhost:  

Q:我如何通过rsync只复制目录结构,忽略掉文件呢?  
A:rsync -av --include '*/' --exclude '*' source-dir dest-dir  

Q:为什么我总会出现"Read-only file system"的错误呢?  
A:看看是否忘了设"read only = no"了  

Q:为什么我会出现'@ERROR: invalid gid'的错误呢?  
A:rsync使用时默认是用uid=nobody;gid=nobody来运行的,如果你的系统不存在nobody组的话,就会出现这样的错误,可以试试gid =  

nogroup或者其它  

Q:绑定端口873失败是怎么回事?  
A:如果你不是以root权限运行这一守护进程的话,因为1024端口以下是特权端口,会出现这样的错误。你可以用--port参数来改变。  

Q:为什么我认证失败?  
A:从你的命令行看来:  

你用的是:  
> bash$ rsync -a 144.16.251.213::test test  
> Password:  
> @ERROR: auth failed on module test  
>  
> I dont understand this. Can somebody explain as to how to acomplish this.  
> All suggestions are welcome.  

应该是没有以你的用户名登陆导致的问题,试试rsync -a max@144.16.251.213::test test  

四、一些可借鉴的脚本  

这里这些脚本都是rsync网站上的例子:  

1、每隔七天将数据往中心服务器做增量备份  

#!/bin/sh  

# This script does personal backups to a rsync backup server. You will end up  
# with a 7 day rotating incremental backup. The incrementals will go  
# into subdirectories named after the day of the week, and the current  
# full backup goes into a directory called "current"  
# tridge@linuxcare.com  

# directory to backup  
BDIR=/home/$USER  

# excludes file - this contains a wildcard pattern per line of files to exclude  
EXCLUDES=$HOME/cron/excludes  

# the name of the backup machine  
BSERVER=owl  

# your password on the backup server  
export RSYNC_PASSWORD=XXXXXX  


########################################################################  

BACKUPDIR=`date +%A`  
OPTS="--force --ignore-errors --delete-excluded --exclude-from=$EXCLUDES  
      --delete --backup --backup-dir=/$BACKUPDIR -a"  

export PATH=$PATH:/bin:/usr/bin:/usr/local/bin  

# the following line clears the last weeks incremental directory  
[ -d $HOME/emptydir ] || mkdir $HOME/emptydir  
rsync --delete -a $HOME/emptydir/ $BSERVER::$USER/$BACKUPDIR/  
rmdir $HOME/emptydir  

# now the actual transfer  
rsync $OPTS $BDIR $BSERVER::$USER/current  

2、备份至一个空闲的硬盘  

#!/bin/sh  

export PATH=/usr/local/bin:/usr/bin:/bin  

LIST="rootfs usr data data2"  

for d in $LIST; do  
    mount /backup/$d  
    rsync -ax --exclude fstab --delete /$d/ /backup/$d/  
    umount /backup/$d  
done  

DAY=`date "+%A"`  
      
rsync -a --delete /usr/local/apache /data2/backups/$DAY  
rsync -a --delete /data/solid /data2/backups/$DAY  

3、对vger.rutgers.edu的cvs树进行镜像  

#!/bin/bash  

cd /var/www/cvs/vger/  
PATH=/usr/local/bin:/usr/freeware/bin:/usr/bin:/bin  

RUN=`lps x | grep rsync | grep -v grep | wc -l`  
if [ "$RUN" -gt 0 ]; then  
    echo already running  
    exit 1  
fi  

rsync -az vger.rutgers.edu::cvs/CVSROOT/ChangeLog $HOME/ChangeLog  

sum1=`sum $HOME/ChangeLog`  
sum2=`sum /var/www/cvs/vger/CVSROOT/ChangeLog`  

if [ "$sum1" = "$sum2" ]; then  
    echo nothing to do  
    exit 0  
fi  

rsync -az --delete --force vger.rutgers.edu::cvs/ /var/www/cvs/vger/  
exit 0  

4、利用find的一种巧妙方式  

rsync -avR remote:'`find /home -name "*.[ch]"`' /tmp/  

可以用这种方法列出需要备份的文件列表——这种方法似乎比较少人用到。  

五、参考资料:  

1、http://rsync.samba.org/  
2、rsync examples  
3、rsync FAQ   

Edit | WYSIWYG | Attach | Printable | Raw View | Backlinks: Web, All Webs | History: r1 | More topic actions
 
Powered by YWiki
This site is powered by the TWiki collaboration platformCopyright © by the contributing authors. All material on this collaboration platform is the property of the contributing authors.
Ideas, requests, problems regarding YWiki? Send feedback