用rsync對網站進行鏡像備份

<a href="http://www.linuxsir.org/main/?q=node/256">http://www.linuxsir.org/main/?q=node/256</a>

建立時間：2001-07-05

文章屬性：原創

用rsync對網站進行鏡像備份

by inburst&lt;[email protected]&gt;

<a href="http://xfocus.org/">http://xfocus.org</a>

對系統管理者來說，平時的工作重心應該集中在維護系統正常運轉，能夠正常提供服務上，這裡往往牽涉到一個資料備份的問題，在我所了解

的情況中，有80%的系統管理者不是太關心自己伺服器的安全性，但往往對備分鏡像的技術相當感興趣，但由于商業産品的軟硬體價格都相當高

昂，是以往往會選擇自由軟體。這裡準備介紹的rsync就是這樣的軟體，它可以滿足絕大多數要求不是特别高的備份需求。

一、特性簡介

rsync是類unix系統下的資料鏡像備份工具，從軟體的命名上就可以看出來了——remote sync。它的特性如下：

1、可以鏡像儲存整個目錄樹和檔案系統。

2、可以很容易做到保持原來檔案的權限、時間、軟硬連結等等。

3、無須特殊權限即可安裝。

4、優化的流程，檔案傳輸效率高。

5、可以使用rcp、ssh等方式來傳輸檔案，當然也可以通過直接的socket連接配接。

6、支援匿名傳輸。

二、使用方法

rsync的使用方法很簡單，我就舉自己使用的例子來說明吧。

1、系統環境

rsync支援大多數的類unix系統，無論是Linux、Solaris還是BSD上都經過了良好的測試。我的系統環境為：

server: FreeBSD 4.3  ip: 192.168.168.52

client: Solaris 8    ip: 192.168.168.137

2、配置server端的/etc/rsyncd.conf檔案

bash-2.03# cat /etc/rsyncd.conf

uid = nobody

gid = nobody

use chroot = no         # 不使用chroot

max connections = 4         # 最大連接配接數為4

pid file = /var/run/rsyncd.pid

lock file = /var/run/rsync.lock

log file = /var/log/rsyncd.log    # 日志記錄檔案

[inburst]            # 這裡是認證的子產品名，在client端需要指定

path = /home/inburst/python/    # 需要做鏡像的目錄

comment = BACKUP CLIENT IS SOLARIS 8 E250

ignore errors            # 可以忽略一些無關的IO錯誤

read only = yes            # 隻讀

list = no            # 不允許列檔案

auth users = inburst        # 認證的使用者名，如果沒有這行，則表明是匿名

secrets file = /etc/inburst.pas    # 認證檔案名

[web]

path = /usr/local/apache/htdocs/

comment = inburst.org web server

3、在server端生成一個密碼檔案/etc/inburst.pas

bash-2.03# cat /etc/inburst.pas

inburst:hack

出于安全目的，檔案的屬性必需是隻有屬主可讀。

4、在server端将rsync以守護程序形式啟動

bash-2.03# rsync --daemon

如果要在啟動時把服務起來，有幾種不同的方法，比如：

  a、加入inetd.conf

    編輯/etc/services，加入rsync   873/tcp，指定rsync的服務端口是873

    編加/etc/inetd.conf，加入rsync  stream  tcp   nowait  root  /bin/rsync rsync --daemon

  b、加入rc.local

    在各種作業系統中，rc檔案存放位置不盡相同，可以修改使系統啟動時rsync --daemon加載進去。

5、從client端進行測試

下面這個指令行中-vzrtopg裡的v是verbose，z是壓縮，r是recursive，topg都是保持檔案原有屬性如屬主、時間的參數。--progress是指顯示

出詳細的進度情況，--delete是指如果伺服器端删除了這一檔案，那麼用戶端也相應把檔案删除，保持真正的一緻。後面的inburst@ip中，

inburst是指定密碼檔案中的使用者名，之後的::inburst這一inburst是子產品名，也就是在/etc/rsyncd.conf中自定義的名稱。最後的/tmp是備份

到本地的目錄名。

在這裡面，還可以用-e ssh的參數建立起加密的連接配接。可以用--password-file=/password/path/file來指定密碼檔案，這樣就可以在腳本中使

用而無需互動式地輸入驗證密碼了，這裡需要注意的是這份密碼檔案權限屬性要設得隻有屬主可讀。

bash-2.03# rsync -vzrtopg --progress --delete [email protected]::inburst /tmp/

Password:

receiving file list ... done

./

1

785 (100%)

1.py

4086 (100%)

2.py

10680 (100%)

a

0 (100%)

ip

3956 (100%)

wrote 190 bytes  read 5499 bytes  758.53 bytes/sec

total size is 19507  speedup is 3.43

6、建立更新腳本

如果有比較複雜的工作，利用一些常見的腳本語言可以有幫助。比如：

bash-2.03# cat /usr/local/bin/rsync.sh

#!/bin/sh

DATE=`date +%w`

rsync -vzrtopg --progress --delete [email protected]::inburst /home/quack/backup/$DATE --password-file=/etc/rsync.pass &gt;

/var/log/rsync.$DATE

7、修改/etc/crontab做好定時

比如:

bash-2.03# echo "15      4       *       *       6       root    rsync.sh"&gt;&gt;/etc/crontab

三、FAQ

Q：如何通過ssh進行rsync，而且無須輸入密碼？

A：可以通過以下幾個步驟

1. 通過ssh-keygen在server A上建立SSH keys，不要指定密碼，你會在~/.ssh下看到identity和identity.pub檔案

2. 在server B上的home目錄建立子目錄.ssh

3. 将A的identity.pub拷貝到server B上

4. 将identity.pub加到~[user b]/.ssh/authorized_keys

5. 于是server A上的A使用者，可通過下面指令以使用者B ssh到server B上了

                e.g. ssh -l userB serverB

這樣就使server A上的使用者A就可以ssh以使用者B的身份無需密碼登陸到server B上了。

Q：如何通過在不危害安全的情況下通過防火牆使用rsync?

A：解答如下：

這通常有兩種情況，一種是伺服器在防火牆内，一種是伺服器在防火牆外。

無論哪種情況，通常還是使用ssh，這時最好建立一個備份使用者，并且配置sshd僅允許這個使用者通過RSA認證方式進入。

如果伺服器在防火牆内，則最好限定用戶端的IP位址，拒絕其它所有連接配接。

如果客戶機在防火牆内，則可以簡單允許防火牆打開TCP端口22的ssh外發連接配接就ok了。

Q：我能将更改過或者删除的檔案也備份上來嗎？

A：當然可以：

你可以使用如：rsync -other -options -backupdir = ./backup-2000-2-13  ...這樣的指令來實作。

這樣如果源檔案:/path/to/some/file.c改變了，那麼舊的檔案就會被移到./backup-2000-2-13/path/to/some/file.c，這裡這個目錄需要自己

手工建立起來

Q：我需要在防火牆上開放哪些端口以适應rsync？

A：視情況而定

rsync可以直接通過873端口的tcp連接配接傳檔案，也可以通過22端口的ssh來進行檔案傳遞，但你也可以通過下列指令改變它的端口：

rsync --port 8730 otherhost::

或者

rsync -e 'ssh -p 2002' otherhost:

Q：我如何通過rsync隻複制目錄結構，忽略掉檔案呢？

A：rsync -av --include '*/' --exclude '*' source-dir dest-dir

Q：為什麼我總會出現"Read-only file system"的錯誤呢？

A：看看是否忘了設"read only = no"了

Q：為什麼我會出現'@ERROR: invalid gid'的錯誤呢？

A：rsync使用時預設是用uid=nobody;gid=nobody來運作的，如果你的系統不存在nobody組的話，就會出現這樣的錯誤，可以試試gid =

nogroup或者其它

Q：綁定端口873失敗是怎麼回事？

A：如果你不是以root權限運作這一守護程序的話，因為1024端口以下是特權端口，會出現這樣的錯誤。你可以用--port參數來改變。

Q：為什麼我認證失敗？

A：從你的指令行看來：

你用的是：

&gt; bash$ rsync -a 144.16.251.213::test test

&gt; Password:

&gt; @ERROR: auth failed on module test

&gt;

&gt; I dont understand this. Can somebody explain as to how to acomplish this.

&gt; All suggestions are welcome.

應該是沒有以你的使用者名登陸導緻的問題，試試rsync -a [email protected]::test test

四、一些可借鑒的腳本

這裡這些腳本都是rsync網站上的例子：

1、每隔七天将資料往中心伺服器做增量備份

# This script does personal backups to a rsync backup server. You will end up

# with a 7 day rotating incremental backup. The incrementals will go

# into subdirectories named after the day of the week, and the current

# full backup goes into a directory called "current"

# [email protected]

# directory to backup

BDIR=/home/$USER

# excludes file - this contains a wildcard pattern per line of files to exclude

EXCLUDES=$HOME/cron/excludes

# the name of the backup machine

BSERVER=owl

# your password on the backup server

export RSYNC_PASSWORD=XXXXXX

########################################################################

BACKUPDIR=`date +%A`

OPTS="--force --ignore-errors --delete-excluded --exclude-from=$EXCLUDES

      --delete --backup --backup-dir=/$BACKUPDIR -a"

export PATH=$PATH:/bin:/usr/bin:/usr/local/bin

# the following line clears the last weeks incremental directory

[ -d $HOME/emptydir ] || mkdir $HOME/emptydir

rsync --delete -a $HOME/emptydir/ $BSERVER::$USER/$BACKUPDIR/

rmdir $HOME/emptydir

# now the actual transfer

rsync $OPTS $BDIR $BSERVER::$USER/current

2、備份至一個空閑的硬碟

export PATH=/usr/local/bin:/usr/bin:/bin

LIST="rootfs usr data data2"

for d in $LIST; do

    mount /backup/$d

    rsync -ax --exclude fstab --delete /$d/ /backup/$d/

    umount /backup/$d

done

DAY=`date "+%A"`

rsync -a --delete /usr/local/apache /data2/backups/$DAY

rsync -a --delete /data/solid /data2/backups/$DAY

3、對vger.rutgers.edu的cvs樹進行鏡像

#!/bin/bash

cd /var/www/cvs/vger/

PATH=/usr/local/bin:/usr/freeware/bin:/usr/bin:/bin

RUN=`lps x | grep rsync | grep -v grep | wc -l`

if [ "$RUN" -gt 0 ]; then

    echo already running

    exit 1

fi

rsync -az vger.rutgers.edu::cvs/CVSROOT/ChangeLog $HOME/ChangeLog

sum1=`sum $HOME/ChangeLog`

sum2=`sum /var/www/cvs/vger/CVSROOT/ChangeLog`

if [ "$sum1" = "$sum2" ]; then

    echo nothing to do

    exit 0

rsync -az --delete --force vger.rutgers.edu::cvs/ /var/www/cvs/vger/

exit 0

4、利用find的一種巧妙方式

rsync -avR remote:'`find /home -name "*.[ch]"`' /tmp/

可以用這種方法列出需要備份的檔案清單——這種方法似乎比較少人用到。

五、參考資料：

2、rsync examples

3、rsync FAQ