#======================================= #===Author : yang.fang === #===Email : yangfang@fudan.edu.cn === #===MSN : yang.fang@adways.net === #===QQ : 78461151 === #===HomePage: www.yfang.cn === #=======================================
完成于 2006.12.19
目标: 从Server1的/home/yfang同步Server2的/home/yfang,也就是说是Server2和Server1的这个目录同步,当然也可以做远程备份
测试环境: 两台CentOS, 日期: 2006.12.19
作者: 杨方
#假如你想把Server71下的/home/yfang目录同步到Server107的 /opt/yfang_bak,如同ftp或者scp一样,在Server71上执行简单的一条命令
rsync -av /home/yfang 192.168.11.107:/opt/yfang_bak
#是不是看上去有点眼熟,和scp的命令太像了
#这样他会让你输入root密码的,输入之后,就能看到传输的结果了,更新了哪些文件都会列出来
#这里说明一下参数,-a是个不错的参数,它相当于-rlptgoD,也就是递归,保留符号连接,保留权限,各种时间信息,所有组,所有者,设备信息
#这是一个很经典的参数,当然你需要只要其他参数的意义,以灵活的满足你的要求,-v表明打印传输信息。
#注意:这条命令执行的结果未必是你想象的样子,看一下/opt/yfang_bak下面,多了一个文件夹yfang
# 如果你想把yfang下的内容同步过来,可以执行
rsync -av /home/yfang/ 192.168.11.107:/opt/yfang_bak
# 如果/home/yfang下的某个文件被更改了,再次执行这条命令,可以实现文件更新
#如果有些经验,自然会知道-a保留下来的所有者信息和组信息是靠id号码存的,所以如果有一个文件的所有者是yfang,这个用户在Server71上的id是500,而在Server107上不存在id是500的用户,同步后显示文件信息会显示所有者500,这还是好的,如果在Server107上id为500的用户是yangfang,你就会看到这个文件所有者变成了yangfang,如果这时刚好有个id为501的yfang,你就会疑惑,为什么不是yfang而是,yangfang。
#还有就是如果Server71/home/yfang里的某个文件被删除,同步后Server107原有的文件是不会被删除的,即使你加上--delete参数。
#你会发现这样会让你有点不舒服,不过这种问题在备份数据的时候就完全没有了,备份数据的时候(这里以完全备份为例)你不需要考虑更新和覆盖,你用到的是rsync优秀的传输机制和稳定的性能。
#更多信息,请参见命令的说明并实践体验。
# 按照下面的步骤做:
# 1. vi /etc/rsyncd.conf (这个文件默认不存在)
uid = nobody
gid = nobody
use chroot = no
max connections = 4
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
[yfang] # 这里是前面提到的的模块名,客户端通过模块名来找资源,就像cvs一样
path = /home/yfang/
comment = my rsync dir yfang
ignore errors # 可以忽略一些无关的IO错误
read only = true # 这样就不能在客户端“上传”同步了
list = false # 不允许列文件
auth users = backup # 同步使用的用户(不是系统用户,信息存放在后面指定的文件里)
hosts allow = 192.168.11.107/32 # 只允许192.168.11.107连接同步,没有这行默认allow all
secrets file = /etc/rsyncd.pas # 密码文件,用于存放rsync用户名和密码,明文,需要chmod600一下
[module2]
path = /tmp/test/
comment = only for test
ignore errors
read only = true
list = false
auth users = user2
hosts allow = 192.168.0.0/16
secrets file = /etc/rsyncd.pas
# 2. 创建你的/etc/rsync.pas文件
echo backup:111111 >>/etc/rsyncd.pas
echo user2:222222 >>/etc/rsyncd.pas
chmod 600 /etc/rsyncd.pas
# 3. 启动“服务”: rsync --daemon
设定开机自动启动方法有很多种:
a、加入inetd.conf
编辑/etc/services,加入rsync 873/tcp,指定rsync的服务端口是873
编加/etc/inetd.conf,加入rsync stream tcp nowait root /bin/rsync rsync --daemon
b、加入rc.local
在各种操作系统中,rc文件存放位置不尽相同,可以修改使系统启动时rsync --daemon加载进去。
# 测试:到客户端(192.168.11.107)
rsync -azv -–progress –-delete backup@192.168.1.71::yfang /tmp/ -–password-file=bak.pwd
# -av不解释了,-z表示压缩,--progress显示详细进度, --delete删除服务端没有客户端有的文件
# --password-file是指密码文件,自己写,只包含密码,其他的不要,chmod600一下
# 当然你不想用文件保存的话也没有问题,他会提示让你输入私钥文件位置或者密码的
# 其他常用参数
--rsh=COMMAND 通常用私钥登陆时候需要的,"ssh -i /path/to/id_rsa -l yang.fang"
--exclude 不同步哪些文件
--existing 只同步存在的文件
--ignore-existing 不同步已经存在的文件
--force 强行删掉非空目录
--exclude=PATTERN 排除匹配模式的文件
--exclude-from=FILE 排除列表中的文件
--include=PATTERN 不排除匹配模式的问件
--include-from=FILE 不排除列表中的文件cat /usr/local/bin/rsync.sh #!/bin/sh DATE=`date +%w` rsync -vzrtopg --progress --delete inburst@192.168.168.52::inburst /home/quack/backup/$DATE --password-file=/etc/rsync.pass > /var/log/rsync.$DATE
Q:如何通过ssh进行rsync,而且无须输入密码?
A:可以通过以下几个步骤
1. 通过ssh-keygen在server A上建立SSH keys,不要指定密码,你会在~/.ssh下看到identity和identity.pub文件
2. 在server B上的home目录建立子目录.ssh
3. 将A的identity.pub拷贝到server B上
4. 将identity.pub加到~[user b]/.ssh/authorized_keys
5. 于是server A上的A用户,可通过下面命令以用户B ssh到server B上了
e.g. ssh -l userB serverB
这样就使server A上的用户A就可以ssh以用户B的身份无需密码登陆到server B上了。
Q:如何通过在不危害安全的情况下通过防火墙使用rsync?
A:解答如下:
这通常有两种情况,一种是服务器在防火墙内,一种是服务器在防火墙外。
无论哪种情况,通常还是使用ssh,这时最好新建一个备份用户,并且配置sshd仅允许这个用户通过RSA认证方式进入。
如果服务器在防火墙内,则最好限定客户端的IP地址,拒绝其它所有连接。
如果客户机在防火墙内,则可以简单允许防火墙打开TCP端口22的ssh外发连接就ok了。
Q:我能将更改过或者删除的文件也备份上来吗?
A:当然可以:
你可以使用如:rsync -other -options -backupdir = ./backup-2000-2-13 ...这样的命令来实现。
这样如果源文件:/path/to/some/file.c改变了,那么旧的文件就会被移到./backup-2000-2-13/path/to/some/file.c,
这里这个目录需要自己
手工建立起来
Q:我需要在防火墙上开放哪些端口以适应rsync?
A:视情况而定
rsync可以直接通过873端口的tcp连接传文件,也可以通过22端口的ssh来进行文件传递,但你也可以通过下列命令改变它的端口:
rsync --port 8730 otherhost::
或者
rsync -e 'ssh -p 2002' otherhost:
Q:我如何通过rsync只复制目录结构,忽略掉文件呢?
A:rsync -av --include '*/' --exclude '*' source-dir dest-dir
Q:为什么我总会出现"Read-only file system"的错误呢?
A:看看是否忘了设"read only = no"了
Q:为什么我会出现'@ERROR: invalid gid'的错误呢?
A:rsync使用时默认是用uid=nobody;gid=nobody来运行的,如果你的系统不存在nobody组的话,就会出现这样的错误,可以试试gid =
nogroup或者其它
Q:绑定端口873失败是怎么回事?
A:如果你不是以root权限运行这一守护进程的话,因为1024端口以下是特权端口,会出现这样的错误。你可以用--port参数来改变。
Q:为什么我认证失败?
A:从你的命令行看来:
你用的是:
> bash$ rsync -a 144.16.251.213::test test
> Password:
> @ERROR: auth failed on module test
>
> I dont understand this. Can somebody explain as to how to acomplish this.
> All suggestions are welcome.
应该是没有以你的用户名登陆导致的问题,试试rsync -a max@144.16.251.213::test test
四、一些可借鉴的脚本
这里这些脚本都是rsync网站上的例子:
1、每隔七天将数据往中心服务器做增量备份
#!/bin/sh
# This script does personal backups to a rsync backup server. You will end up
# with a 7 day rotating incremental backup. The incrementals will go
# into subdirectories named after the day of the week, and the current
# full backup goes into a directory called "current"
# tridge@linuxcare.com
# directory to backup
BDIR=/home/$USER
# excludes file - this contains a wildcard pattern per line of files to exclude
EXCLUDES=$HOME/cron/excludes
# the name of the backup machine
BSERVER=owl
# your password on the backup server
export RSYNC_PASSWORD=XXXXXX
########################################################################
BACKUPDIR=`date +%A`
OPTS="--force --ignore-errors --delete-excluded --exclude-from=$EXCLUDES
--delete --backup --backup-dir=/$BACKUPDIR -a"
export PATH=$PATH:/bin:/usr/bin:/usr/local/bin
# the following line clears the last weeks incremental directory
[ -d $HOME/emptydir ] || mkdir $HOME/emptydir
rsync --delete -a $HOME/emptydir/ $BSERVER::$USER/$BACKUPDIR/
rmdir $HOME/emptydir
# now the actual transfer
rsync $OPTS $BDIR $BSERVER::$USER/current
2、备份至一个空闲的硬盘
#!/bin/sh
export PATH=/usr/local/bin:/usr/bin:/bin
LIST="rootfs usr data data2"
for d in $LIST; do
mount /backup/$d
rsync -ax --exclude fstab --delete /$d/ /backup/$d/
umount /backup/$d
done
DAY=`date "+%A"`
rsync -a --delete /usr/local/apache /data2/backups/$DAY
rsync -a --delete /data/solid /data2/backups/$DAY
3、对vger.rutgers.edu的cvs树进行镜像
#!/bin/bash
cd /var/www/cvs/vger/
PATH=/usr/local/bin:/usr/freeware/bin:/usr/bin:/bin
RUN=`lps x | grep rsync | grep -v grep | wc -l`
if [ "$RUN" -gt 0 ]; then
echo already running
exit 1
fi
rsync -az vger.rutgers.edu::cvs/CVSROOT/ChangeLog $HOME/ChangeLog
sum1=`sum $HOME/ChangeLog`
sum2=`sum /var/www/cvs/vger/CVSROOT/ChangeLog`
if [ "$sum1" = "$sum2" ]; then
echo nothing to do
exit 0
fi
rsync -az --delete --force vger.rutgers.edu::cvs/ /var/www/cvs/vger/
exit 0
4、利用find的一种巧妙方式
rsync -avR remote:'`find /home -name "*.[ch]"`' /tmp/
可以用这种方法列出需要备份的文件列表——这种方法似乎比较少人用到。
五、参考资料:
1、http://rsync.samba.org/
2、rsync examples
3、rsync FAQ