對系統(tǒng)管理員來說,平時的工作重心應(yīng)該集中在維護(hù)系統(tǒng)正常運轉(zhuǎn),能夠正常提供服務(wù)上,這里往往牽涉到一個數(shù)據(jù)備份的問題,在我所了解的情況中,有80%
的系統(tǒng)管理員不是太關(guān)心自己服務(wù)器的安全性,但往往對備分鏡像的技術(shù)相當(dāng)感興趣,但由于商業(yè)產(chǎn)品的軟硬件價格都相當(dāng)高昂,因此往往會選擇自由軟件。這里準(zhǔn)
備介紹的rsync就是這樣的軟件,它可以滿足絕大多數(shù)要求不是特別高的備份需求。
一、特性簡介
rsync是類unix系統(tǒng)下的數(shù)據(jù)鏡像備份工具,從軟件的命名上就可以看出來了——remote
sync。它的特性如下:
1、可以鏡像保存整個目錄樹和文件系統(tǒng)。
2、可以很容易做到保持原來文件的權(quán)限、時間、軟硬鏈接等等。
3、無須特殊權(quán)限即可安裝。
4、優(yōu)化的流程,文件傳輸效率高。
5、可以使用rcp、ssh等方式來傳輸文件,當(dāng)然也可以通過直接的socket連接。
6、支持匿名傳輸。
二、使用方法
rsync的使用方法很簡單,我就舉自己使用的例子來說明吧。
1、系統(tǒng)環(huán)境
rsync支持大多數(shù)的類unix系統(tǒng),無論是Linux、Solaris還是BSD上都經(jīng)過了良好的測試。我的系統(tǒng)環(huán)境為:
server:
FreeBSD 4.3 ip: 192.168.168.52
client: Solaris 8 ip:
192.168.168.137
rsync 版本 2.4.6(可以從
http://rsync.samba.org/rsync/
獲得******版本)
2、配置server端的/etc/rsyncd.conf文件
bash-2.03#
cat /etc/rsyncd.conf
uid = nobody
gid = nobody
use chroot = no # 不使用chroot
max connections = 4 #
******連接數(shù)為4
pid file = /var/run/rsyncd.pid
lock file =
/var/run/rsync.lock
log file = /var/log/rsyncd.log #
日志記錄文件
[inburst] # 這里是認(rèn)證的模塊名,在client端需要指定
path =
/home/inburst/python/ # 需要做鏡像的目錄
comment = BACKUP CLIENT IS SOLARIS 8
E250
ignore errors # 可以忽略一些無關(guān)的IO錯誤
read only = yes #
只讀
list = no # 不允許列文件
auth users = inburst #
認(rèn)證的用戶名,如果沒有這行,則表明是匿名
secrets file = /etc/inburst.pas #
認(rèn)證文件名
[web]
path =
/usr/local/apache/htdocs/
comment = inburst.org web
server
3、在server端生成一個密碼文件/etc/inburst.pas
bash-2.03#
cat
/etc/inburst.pas
inburst:hack
出于安全目的,文件的屬性必需是只有屬主可讀。
4、在server端將rsync以守護(hù)進(jìn)程形式啟動
bash-2.03#
rsync
--daemon
如果要在啟動時把服務(wù)起來,有幾種不同的方法,比如:
a、加入inetd.conf
編輯/etc/services,加入rsync
873/tcp,指定rsync的服務(wù)端口是873
編加/etc/inetd.conf,加入rsync stream tcp nowait root
/bin/rsync rsync
--daemon
b、加入rc.local
在各種操作系統(tǒng)中,rc文件存放位置不盡相同,可以修改使系統(tǒng)啟動時rsync
--daemon加載進(jìn)去。
5、從client端進(jìn)行測試
下面這個命令行中-vzrtopg里的v是verbose,z是壓縮,r是recursive,topg都是保持文件原有屬性如屬主、時間的參數(shù)。
--progress是指顯示出詳細(xì)的進(jìn)度情況,--delete是指如果服務(wù)器端刪除了這一文件,那么客戶端也相應(yīng)把文件刪除,保持真正的一致。后面的
[email=inburst@ip]inburst@ip[/email]
中,inburst是指定密碼文件中的用戶名,之后的::inburst這一inburst是模塊名,也就是在/etc/rsyncd.conf中自定義的名稱。***后的/tmp是備份到本地的目錄名。
在這里面,還可以用-e
ssh的參數(shù)建立起加密的連接??梢杂?-password-file=/password/path/file來指定密碼文件,這樣就可以在腳本中使用而無需交互式地輸入驗證密碼了,這里需要注意的是這份密碼文件權(quán)限屬性要設(shè)得只有屬主可讀。
bash-2.03#
rsync -vzrtopg --progress --delete inburst@192.168.168.52::inburst
/tmp/
Password:
receiving file list ...
done
./
1
785 (100%)
1.py
4086
(100%)
2.py
10680 (100%)
a
0
(100%)
ip
3956 (100%)
./
wrote 190 bytes read 5499
bytes 758.53 bytes/sec
total size is 19507 speedup is
3.43
6、創(chuàng)建更新腳本
如果有比較復(fù)雜的工作,利用一些常見的腳本語言可以有幫助。比如:
bash-2.03#
cat /usr/local/bin/rsync.sh
#!/bin/sh
DATE=`date
+%w`
rsync -vzrtopg --progress --delete
inburst@192.168.168.52::inburst /home/quack/backup/$DATE
--password-file=/etc/rsync.pass >
/var/log/rsync.$DATE
7、修改/etc/crontab做好定時
比如:
bash-2.03#
echo "15 4 * * 6 root
rsync.sh">>/etc/crontab
三、FAQ
Q:如何通過ssh進(jìn)行rsync,而且無須輸入密碼?
A:可以通過以下幾個步驟
1.
通過ssh-keygen在server A上建立SSH keys,不要指定密碼,你會在~/.ssh下看到identity和identity.pub文件
2. 在server B上的home目錄建立子目錄.ssh
3. 將A的identity.pub拷貝到server
B上
4. 將identity.pub加到~[user b]/.ssh/authorized_keys
5. 于是server
A上的A用戶,可通過下面命令以用戶B ssh到server B上了
e.g. ssh -l userB
serverB
這樣就使server A上的用戶A就可以ssh以用戶B的身份無需密碼登陸到server
B上了。
Q:如何通過在不危害安全的情況下通過防火墻使用rsync?
A:解答如下:
這通常有兩種情況,一種是服務(wù)器在防火墻內(nèi),一種是服務(wù)器在防火墻外。
無論哪種情況,通常還是使用ssh,這時******新建一個備份用戶,并且配置sshd僅允許這個用戶通過RSA認(rèn)證方式進(jìn)入。
如果服務(wù)器在防火墻內(nèi),則***好限定客戶端的IP地址,拒絕其它所有連接。
如果客戶機(jī)在防火墻內(nèi),則可以簡單允許防火墻打開TCP端口22的ssh外發(fā)連接就ok了。
Q:我能將更改過或者刪除的文件也備份上來嗎?
A:當(dāng)然可以:
你可以使用如:rsync
-other -options -backupdir = ./backup-2000-2-13
...這樣的命令來實現(xiàn)。
這樣如果源文件:/path/to/some/file.c改變了,那么舊的文件就會被移到./backup-2000-2-13/path/to/some/file.c,這里這個目錄需要自己
手工建立起來
Q:我需要在防火墻上開放哪些端口以適應(yīng)rsync?
A:視情況而定
rsync可以直接通過873端口的tcp連接傳文件,也可以通過22端口的ssh來進(jìn)行文件傳遞,但你也可以通過下列命令改變它的端口:
rsync
--port 8730 otherhost::
或者
rsync -e 'ssh -p 2002'
otherhost:
Q:我如何通過rsync只復(fù)制目錄結(jié)構(gòu),忽略掉文件呢?
A:rsync -av
--include '*/' --exclude '*' source-dir
dest-dir
Q:為什么我總會出現(xiàn)"Read-only file
system"的錯誤呢?
A:看看是否忘了設(shè)"read only = no"了
Q:為什么我會出現(xiàn)'@ERROR:
invalid
gid'的錯誤呢?
A:rsync使用時默認(rèn)是用uid=nobody;gid=nobody來運行的,如果你的系統(tǒng)不存在nobody組的話,就會出現(xiàn)這樣的錯誤,可以試試gid
=
nogroup或者其它
Q:綁定端口873失敗是怎么回事?
A:如果你不是以root權(quán)限運行這一守護(hù)進(jìn)程的話,因為1024端口以下是特權(quán)端口,會出現(xiàn)這樣的錯誤。你可以用--port參數(shù)來改變。
Q:為什么我認(rèn)證失敗?
A:從你的命令行看來:
你用的是:
>
bash$ rsync -a 144.16.251.213::test test
> Password:
>
@ERROR: auth failed on module test
>
> I dont understand
this. Can somebody explain as to how to acomplish this.
> All
suggestions are welcome.
應(yīng)該是沒有以你的用戶名登陸導(dǎo)致的問題,試試rsync -a
max@144.16.251.213::test
test
四、一些可借鑒的腳本
這里這些腳本都是rsync網(wǎng)站上的例子:
1、每隔七天將數(shù)據(jù)往中心服務(wù)器做增量備份
#!/bin/sh
#
This script does personal backups to a rsync backup server. You will end
up
# with a 7 day rotating incremental backup. The incrementals will
go
# into subdirectories named after the day of the week, and the
current
# full backup goes into a directory called "current"
#
tridge@linuxcare.com
# directory to
backup
BDIR=/home/$USER
# excludes file - this contains a
wildcard pattern per line of files to
exclude
EXCLUDES=$HOME/cron/excludes
# the name of the
backup machine
BSERVER=owl
# your password on the backup
server
export
RSYNC_PASSWORD=XXXXXX
########################################################################
BACKUPDIR=`date
+%A`
OPTS="--force --ignore-errors --delete-excluded
--exclude-from=$EXCLUDES
--delete --backup --backup-dir=/$BACKUPDIR
-a"
export
PATH=$PATH:/bin:/usr/bin:/usr/local/bin
# the following line
clears the last weeks incremental directory
[ -d $HOME/emptydir ] ||
mkdir $HOME/emptydir
rsync --delete -a $HOME/emptydir/
$BSERVER::$USER/$BACKUPDIR/
rmdir $HOME/emptydir
# now the
actual transfer
rsync $OPTS $BDIR
$BSERVER::$USER/current
2、備份至一個空閑的硬盤
#!/bin/sh
export
PATH=/usr/local/bin:/usr/bin:/bin
LIST="rootfs usr data
data2"
for d in $LIST; do
mount /backup/$d
rsync
-ax --exclude fstab --delete /$d/ /backup/$d/
umount
/backup/$d
done
DAY=`date "+%A"`
rsync -a
--delete /usr/local/apache /data2/backups/$DAY
rsync -a --delete
/data/solid
/data2/backups/$DAY
3、對vger.rutgers.edu的cvs樹進(jìn)行鏡像
#!/bin/bash
cd
/var/www/cvs/vger/
PATH=/usr/local/bin:/usr/freeware/bin:/usr/bin:/bin
RUN=`lps
x | grep rsync | grep -v grep | wc -l`
if [ "$RUN" -gt 0 ];
then
echo already running
exit 1
fi
rsync
-az vger.rutgers.edu::cvs/CVSROOT/ChangeLog
$HOME/ChangeLog
sum1=`sum $HOME/ChangeLog`
sum2=`sum
/var/www/cvs/vger/CVSROOT/ChangeLog`
if [ "$sum1" = "$sum2" ];
then
echo nothing to do
exit 0
fi
rsync -az
--delete --force vger.rutgers.edu::cvs/ /var/www/cvs/vger/
exit
0
4、利用find的一種巧妙方式
rsync -avR remote:'`find /home
-name "*.[ch]"`'
/tmp/
可以用這種方法列出需要備份的文件列表——這種方法似乎比較少人用到。
五、參考資料:
1、
http://rsync.samba.org/
2、rsync examples
3、rsync FAQ