我创建了一个备份脚本,该脚本应该每天创建增量备份,每周创建一次从远程主机到外部备份硬盘的完整备份。
(底部的简短示例)
剧本 (https://gist.github.com/sergei-maertens/ac6b8ee2562edcff10fc):
#!/bin/env bash
#
# Adapted from http://webgnuru.com/linux/rsync_incremental.php
#
USER='modelbrouw'
HOST='modelbrouwers.nl'
DAYS_BETWEEN_FULL=30 # number of days between full backups.
TARGET_SUFFIX="media"
TARGET_BASE="/run/media/bbt/40d67de8-f4b6-4707-9947-f96f44efd7bf/"
SOURCE="/home/modelbrouw/django/production/$TARGET_SUFFIX"
today=`date -I`
prev_day=$today # check if backup from today exists
get_target() {
root_dir=$TARGET_BASE$1
if [[ $2 ]]; then
root_dir=$root_dir/$2
fi
echo $root_dir
}
LOG=`get_target $today 'rsync_inc.log'`
# do the date calculations
# determine if a full/incremental backup should be taken
run_backup() {
i=0
PREV_BACKUP=`get_target $prev_day`
while [ $i -lt 100 ] && [ ! -d $PREV_BACKUP ]
do
i=$[i+1]
prev_day=`date -I -d "$i day ago"`
PREV_BACKUP=`get_target $prev_day`
done
if [ $i -eq '0' ]; then
echo "Backup already created"
# exit
else
echo $i 'days since last backup'
fi
# create the target directory
TARGET=`get_target $today`
echo -e 'Backup target:' $TARGET "\n"
mkdir -p $TARGET
if [ $i -lt $DAYS_BETWEEN_FULL ]; then
echo -e "creating incremental backup, based on" $prev_day "\n"
incremental_backup
else
echo -e "creating full backup \n"
source ./backup.sh
fi
}
incremental_backup() {
DEST=`get_target $today $TARGET_SUFFIX`
COMP=`get_target $prev_day $TARGET_SUFFIX`
echo 'remote source directory:' $SOURCE
echo 'backup destination:' $DEST
SSH="-e ssh $USER@$HOST:$SOURCE"
OPT="-rvLtShP"
echo $LOG
rsync $OPT --link-dest=$COMP $SSH $TARGET > $LOG
}
run_backup
它应该做什么 基本上它的作用是使用今天的日期为备份创建一个目标文件夹,查找上一个备份(从上一个日期减去一天直到找到文件夹,因为我无法每天/晚上运行备份),如果超过7 天过去,将创建完整备份。
此备份非常大,因此如果文件未更改,我想使用 --link-dest 创建到上一个备份的硬链接。
使用无密码 ssh 访问远程主机,这里没有什么特别的。
它能做什么
观察到的行为是,备份确实正确创建,但没有创建硬链接,即使文件看起来相同。
潜在有用的信息
更多可能相关的信息:
- 远程主机文件系统是simfs,操作系统是CentOS 5.11
- 备份驱动器文件系统是 ext4,从 Arch Linux 机器运行
- 文件多次匹配(如果我正确解释统计输出)
- 两台机器都在同一时区
- 本地机rsync版本3.1.1
- 远程机器rsync版本3.0.6
我还尝试了什么
我使用相同的选项并通过 ssh 在本地计算机上使用文件夹 /home/bbt/test/source、/home/bbt/test/prev、/home/bbt/test/target 运行 rsync。正如预期的那样,文件target
夹文件确实具有到prev
文件夹文件的硬链接。
当前运行的备份的输出
➜ scripts ./run_backup.sh
2 days since last backup
Backup target: /run/media/bbt/40d67de8-f4b6-4707-9947-f96f44efd7bf/2015-10-24
creating incremental backup, based on 2015-10-22
remote source directory: /home/modelbrouw/django/production/media
backup destination: /run/media/bbt/40d67de8-f4b6-4707-9947-f96f44efd7bf/2015-10-24/media
然后我去验证一个测试文件:
➜ 1 pwd
/run/media/bbt/40d67de8-f4b6-4707-9947-f96f44efd7bf/2015-10-22/media/albums/1/1
➜ 1 stat 1024_chameleon.jpg
File: ‘1024_chameleon.jpg’
Size: 31694 Blocks: 64 IO Block: 4096 regular file
Device: 811h/2065d Inode: 81264905 Links: 1
Access: (0645/-rw-r--r-x) Uid: ( 1000/ bbt) Gid: ( 1000/ bbt)
Access: 2015-10-22 20:32:09.550197848 +0200
Modify: 2012-07-04 19:13:10.000000000 +0200
Change: 2015-10-22 20:32:09.550197848 +0200
Birth: -
并检查新备份中的相应文件 - 在这里我希望有一个硬链接:
➜ 1 pwd
/run/media/bbt/40d67de8-f4b6-4707-9947-f96f44efd7bf/2015-10-24/media/albums/1/1
➜ 1 stat 1024_chameleon.jpg
File: ‘1024_chameleon.jpg’
Size: 31694 Blocks: 64 IO Block: 4096 regular file
Device: 811h/2065d Inode: 107348180 Links: 1
Access: (0645/-rw-r--r-x) Uid: ( 1000/ bbt) Gid: ( 1000/ bbt)
Access: 2015-10-24 17:07:01.695760211 +0200
Modify: 2012-07-04 19:13:10.000000000 +0200
Change: 2015-10-24 17:00:34.284219203 +0200
Birth: -
最后,我还记录所有 rsync 输出,文件头如下所示:
➜ 2015-10-24 head rsync_inc.log -n 100
receiving incremental file list
media/
media/.htaccess
49 100% 47.85kB/s 0:00:00 (xfr#1, ir-chk=1114/1116)
media/albums/
media/albums/1/
media/albums/1/1/
media/albums/1/1/1024_Foto0551.jpg
74.35K 100% 77.74kB/s 0:00:00 (xfr#2, ir-chk=1276/2436)
media/albums/1/1/1024_Foto0552.jpg
81.28K 100% 82.26kB/s 0:00:00 (xfr#3, ir-chk=1275/2436)
media/albums/1/1/1024_Foto0553.jpg
59.76K 100% 59.68kB/s 0:00:00 (xfr#4, ir-chk=1274/2436)
media/albums/1/1/1024_Foto0554.jpg
100.46K 100% 97.32kB/s 0:00:01 (xfr#5, ir-chk=1273/2436)
media/albums/1/1/1024_Foto0555.jpg
105.82K 100% 3.15MB/s 0:00:00 (xfr#6, ir-chk=1272/2436)
media/albums/1/1/1024_Foto0556.jpg
82.08K 100% 1.53MB/s 0:00:00 (xfr#7, ir-chk=1271/2436)
media/albums/1/1/1024_chameleon.jpg
31.69K 100% 562.75kB/s 0:00:00 (xfr#8, ir-chk=1270/2436)
media/albums/1/1/Foto0551.jpg
49.58K 100% 691.70kB/s 0:00:00 (xfr#9, ir-chk=1269/2436)
media/albums/1/1/Foto0552.jpg
55.32K 100% 675.32kB/s 0:00:00 (xfr#10, ir-chk=1268/2436)
media/albums/1/1/Foto0553.jpg
41.20K 100% 410.56kB/s 0:00:00 (xfr#11, ir-chk=1267/2436)
media/albums/1/1/Foto0554.jpg
67.87K 100% 597.15kB/s 0:00:00 (xfr#12, ir-chk=1266/2436)
media/albums/1/1/Foto0555.jpg
69.35K 100% 559.73kB/s 0:00:00 (xfr#13, ir-chk=1265/2436)
media/albums/1/1/Foto0556.jpg
56.50K 100% 396.95kB/s 0:00:00 (xfr#14, ir-chk=1264/2436)
media/albums/1/1/chameleon.jpg
20.77K 100% 145.92kB/s 0:00:00 (xfr#15, ir-chk=1263/2436)
media/albums/1/1/thumb_Foto0551.jpg
2.41K 100% 16.82kB/s 0:00:00 (xfr#16, ir-chk=1262/2436)
media/albums/1/1/thumb_Foto0552.jpg
2.57K 100% 17.95kB/s 0:00:00 (xfr#17, ir-chk=1261/2436)
media/albums/1/1/thumb_Foto0553.jpg
2.37K 100% 16.50kB/s 0:00:00 (xfr#18, ir-chk=1260/2436)
media/albums/1/1/thumb_Foto0554.jpg
3.21K 100% 21.33kB/s 0:00:00 (xfr#19, ir-chk=1259/2436)
media/albums/1/1/thumb_Foto0555.jpg
2.94K 100% 19.56kB/s 0:00:00 (xfr#20, ir-chk=1258/2436)
media/albums/1/1/thumb_Foto0556.jpg
2.91K 100% 19.31kB/s 0:00:00 (xfr#21, ir-chk=1257/2436)
media/albums/1/1/thumb_chameleon.jpg
1.45K 100% 9.60kB/s 0:00:00 (xfr#22, ir-chk=1256/2436)
media/albums/1/14/
media/albums/1/14/2012-07-28 20.46.38.jpg
89.52K 100% 526.65kB/s 0:00:00 (xfr#23, ir-chk=1255/2436)
media/albums/1/14/2012-07-28 20.46.50.jpg
99.56K 100% 522.70kB/s 0:00:00 (xfr#24, ir-chk=1254/2436)
media/albums/1/14/2012-07-28 20.47.49.jpg
121.80K 100% 553.25kB/s 0:00:00 (xfr#25, ir-chk=1253/2436)
media/albums/1/14/2012-07-28 20.47.59.jpg
117.66K 100% 476.78kB/s 0:00:00 (xfr#26, ir-chk=1252/2436)
media/albums/1/14/2012-07-28 20.48.06.jpg
101.82K 100% 380.98kB/s 0:00:00 (xfr#27, ir-chk=1251/2436)
media/albums/1/14/thumb_2012-07-28 20.46.38.jpg
6.99K 100% 26.16kB/s 0:00:00 (xfr#28, ir-chk=1250/2436)
media/albums/1/14/thumb_2012-07-28 20.46.50.jpg
7.55K 100% 28.25kB/s 0:00:00 (xfr#29, ir-chk=1249/2436)
media/albums/1/14/thumb_2012-07-28 20.47.49.jpg
7.13K 100% 25.98kB/s 0:00:00 (xfr#30, ir-chk=1248/2436)
media/albums/1/14/thumb_2012-07-28 20.47.59.jpg
6.81K 100% 24.82kB/s 0:00:00 (xfr#31, ir-chk=1247/2436)
media/albums/1/14/thumb_2012-07-28 20.48.06.jpg
7.33K 100% 26.72kB/s 0:00:00 (xfr#32, ir-chk=1246/2436)
media/albums/1/2/
media/albums/1/2/1024_2012-05-03 21.49.27.jpg
56.56K 100% 197.97kB/s 0:00:00 (xfr#33, ir-chk=1245/2436)
media/albums/1/2/1024_2012-05-03 22.37.00.jpg
53.89K 100% 167.60kB/s 0:00:00 (xfr#34, ir-chk=1244/2436)
media/albums/1/2/2012-05-03 21.49.27.jpg
56.56K 100% 173.15kB/s 0:00:00 (xfr#35, ir-chk=1243/2436)
media/albums/1/2/2012-05-03 22.37.00.jpg
53.89K 100% 158.99kB/s 0:00:00 (xfr#36, ir-chk=1242/2436)
media/albums/1/2/2012-05-03 22.53.39.jpg
60.56K 100% 169.46kB/s 0:00:00 (xfr#37, ir-chk=1241/2436)
media/albums/1/2/thumb_2012-05-03 21.49.27.jpg
2.44K 100% 6.80kB/s 0:00:00 (xfr#38, ir-chk=1240/2436)
media/albums/1/2/thumb_2012-05-03 22.37.00.jpg
2.55K 100% 7.10kB/s 0:00:00 (xfr#39, ir-chk=1239/2436)
media/albums/1/2/thumb_2012-05-03 22.53.39.jpg
2.62K 100% 7.31kB/s 0:00:00 (xfr#40, ir-chk=1238/2436)
media/albums/1/23/
media/albums/1/23/2012-08-09-224554_1366x768_scrot.png
152.05K 100% 370.28kB/s 0:00:00 (xfr#41, ir-chk=1237/2436)
media/albums/1/23/2012-08-29-170808_1366x768_scrot.png
162.87K 100% 363.13kB/s 0:00:00 (xfr#42, ir-chk=1236/2436)
media/albums/1/23/2012-09-02-014215_1366x768_scrot.png
155.44K 100% 316.91kB/s 0:00:00 (xfr#43, ir-chk=1235/2436)
media/albums/1/23/2012-09-02-131516_1366x768_scrot.png
147.72K 100% 275.30kB/s 0:00:00 (xfr#44, ir-chk=1234/2436)
media/albums/1/23/2012-09-02-131523_1366x768_scrot.png
259.65K 100% 417.74kB/s 0:00:00 (xfr#45, ir-chk=1233/2436)
media/albums/1/23/2012-09-08-231233_1366x768_scrot.png
171.33K 100% 260.20kB/s 0:00:00 (xfr#46, ir-chk=1232/2436)
先前备份的完整日志文件(使用相同的脚本运行)可以在以下位置找到:https://modelbrouwers.nl/static/rsync_inc.log
简短的例子
运行的命令:
rsync -rvLtShP --link-dest=/backupdrive/2015-10-22/media -e ssh [email protected]:/home/modelbrouw/django/production/media /backupdrive/2015-10-24
在备份目标(2015-10-24)中,我期望从/backupdrive/2015-10-24/media/albums/1/1/1024_chameleon.jpg
到 的硬链接/backupdrive/2015-10-21/media/albums/1/1/1024_chameleon.jpg
...当我写这篇文章时,我可能必须将其添加media
到目标中。我现在就先尝试一下。
答案1
尾部斜杠+路径的缺失部分让我感到不安,输入简短的示例有所帮助。
解决方案是尾部斜杠必须添加到 ,$SOURCE
并且media
需要添加到最终的$TARGET
。