wizbackup

   1 #!/bin/bash
   2 #
   3 # WizBackup 2.0 - Simple rsync backup with snapshots
   4 # Based on incremental-backup 0.1 by Matteo Mattei
   5 #
   6 # Copyright 2006 Matteo Mattei <matteo.mattei@gmail.com>
   7 # Copyright 2007, 2008, 2009, 2010, 2011, 2012 Bernie Innocenti <bernie@codewiz.org>
   8 #
   9 #  This program is free software: you can redistribute it and/or modify
  10 #  it under the terms of the GNU General Public License as published by
  11 #  the Free Software Foundation, either version 3 of the License,
  12 #  or (at your option) any later version.
  13 #
  14 #  This program is distributed in the hope that it will be useful,
  15 #  but WITHOUT ANY WARRANTY; without even the implied warranty of
  16 #  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17 #  GNU General Public License for more details.
  18 #
  19 #  You should have received a copy of the GNU General Public License
  20 #  along with this program.  If not, see <http://www.gnu.org/licenses/>.
  21 #
  22
  23 if [ $# -lt 2 ]; then
  24         echo "Usage: $0 SOURCE DEST [RSYNC_OPTS]"
  25         exit 1
  26 fi
  27
  28 # Treat undefined variables as errors
  29 set -u
  30
  31 #####################################################################
  32 # CONFIGURATION
  33 #####################################################################
  34
  35 # Source rsync URL
  36 SRC=$1; shift
  37
  38 # Destination directory (will be created if it doesn't exist)
  39 DEST=$1; shift
  40
  41 CONF_FILE="/etc/wizbackup/wizbackup.conf"
  42
  43 # NOTE: --timeout needs to be large enough: if a large dir tree don't change a lot of time can pass without I/O
  44 # NOTE: --inplace will clobber linked files in older snapshots. DON'T USE IT!
  45 RSYNC_OPTS="-HAXa --stats --timeout 1800 --numeric-ids --delete --delete-excluded --ignore-errors $@"
  46
  47 # Number of saved snapshots
  48 SNAPSHOTS=45
  49
  50 # Abort backup if the destination volume has less than these GBs free
  51 MIN_FREE_GB=10
  52
  53 RESULT=500
  54 DATE=`date +"%Y%m%d"`
  55 DEST="`echo $DEST | sed -e 's/\/$//'`"
  56
  57 if [ -f "$CONF_FILE" ]; then
  58         source /etc/wizbackup/wizbackup.conf
  59 fi
  60
  61 # Use "backup" ssh key with ssh protocol, or password file for rsync protocol
  62 if [ "${SRC%:*}" == "rsync" ]; then
  63         RSYNC_OPTS="$RSYNC_OPTS --password-file=/etc/wizbackup/rsync_password --contimeout 10"
  64 else
  65         export RSYNC_RSH="ssh -i /etc/wizbackup/ssh_id -c arcfour -x -o VerifyHostKeyDNS=yes -o StrictHostKeyChecking=no"
  66 fi
  67
  68 # Error tolerant grep
  69 tgrep()
  70 {
  71         grep "$@"
  72         return 0
  73 }
  74
  75 do_backup()
  76 {
  77         set -o pipefail
  78         echo "$(date): rsync $RSYNC_OPTS $SRC $DEST/tmp/"
  79         rsync $RSYNC_OPTS "$SRC" "$DEST/tmp/" 2>&1 | tgrep -v -E 'vanished|some files'
  80         RESULT=$?
  81         case "$RESULT" in
  82         0|24)
  83                 RESULT=0 # Ignore error 24 (Partial transfer due to vanished source files)
  84                 # Cleanup old incomplete backups
  85                 if [ -d "$DEST/$DATE" ]; then
  86                         echo "$(date): Removing existing backup $DEST/$DATE"
  87                         rm -rf "$DEST/$DATE"
  88                 fi
  89                 mv "$DEST/tmp" "$DEST/$DATE"
  90                 ;;
  91         *)
  92                 echo "$(date): rsync failed: $RESULT"
  93                 echo "$(date): Leaving incomplete backup in $DEST/tmp"
  94                 ;;
  95         esac
  96         set +o pipefail
  97 }
  98
  99
 100 do_init()
 101 {
 102         # Safety net (4 slashes just in case)
 103         case "$DEST" in
 104                 /|//|///|////) exit 666 ;;
 105         esac
 106
 107         if [ ! -d "$DEST" ]; then
 108                 echo "$(date): Creating missing destination directory $DEST."
 109                 mkdir -p "$DEST" || exit 667
 110         fi
 111
 112         cd "$DEST" || exit 668
 113 }
 114
 115 do_prune()
 116 {
 117         local old=`ls | grep -v tmp | head -n -$SNAPSHOTS | tr '\n' ' '`
 118         if [ ! -z "$old" ]; then
 119                 echo "$(date): Removing oldest snapshot(s): $old..."
 120                 rm -rf $old || exit 669
 121         fi
 122 }
 123
 124 do_link()
 125 {
 126         local newest=`ls | grep -v tmp | tail -n 1`
 127         if [ -d "$DEST/tmp" ]; then
 128                 echo "$(date): Continuing with pre-existing snapshot $DEST/tmp"
 129         elif [ -z "$newest" ]; then
 130                 echo "$(date): No previous snapshot found, performing a full backup!"
 131         else
 132                 echo "$(date): Linking snapshot $DEST/$newest to $DEST/tmp"
 133                 # TODO: Creating the hardlinks takes a lot of time.
 134                 # Perhaps we could save time by recycling the oldest snapshot
 135                 cp -la "$DEST/$newest" "$DEST/tmp"
 136                 RESULT=$?
 137                 if [ $RESULT -ne 0 ]; then
 138                         echo "$(date): Failed to setup tmp snapshot: $RESULT. Cleaning up."
 139                         rm -rf "$DEST/tmp"
 140                         exit $RESULT
 141                 fi
 142         fi
 143 }
 144
 145 do_test()
 146 {
 147         # TODO: test for free space and free inodes in the $DEST filesystem
 148         block_size=`stat --file-system --format "%S" "$DEST"`
 149         free_blocks=`stat --file-system --format "%f" "$DEST"`
 150         free_inodes=`stat --file-system --format "%d" "$DEST"`
 151         free_gb=$((block_size * free_blocks / 1024 / 1024 / 1024))
 152
 153         if [ "$free_gb" -lt "$MIN_FREE_GB" ]; then
 154                 echo "$(date): Aborting due to insufficient free space ${free_gb}GB."
 155                 exit 670
 156         fi
 157
 158         # Avoid clobbering the latest snapshot if the remote host does
 159         # not allow us to connect
 160         # --contimeout: sometimes hangs on connection...
 161         rsync $RSYNC_OPTS --dry-run --no-recursive "$SRC" >/dev/null
 162         RESULT=$?
 163         if [ $RESULT -ne 0 ]; then
 164                 echo "$(date): rsync test failed: $RESULT.  Aborting."
 165                 exit $RESULT
 166         fi
 167 }
 168
 169 ######################################
 170 # Main
 171 ######################################
 172
 173 # make sure to be root
 174 if (( `id -u` != 0 )); then { echo "Sorry, must be root.  Exiting..."; exit; } fi
 175
 176 echo "$(date): BEGIN backup: $0 $@"
 177 echo "$(date): $0 $SRC $DEST $@"
 178 do_init
 179 do_prune
 180 do_test
 181 do_link
 182 do_backup
 183 echo "$(date): END backup: $SRC -> $DEST"
 184
 185 exit $RESULT