## page was renamed from Baustelle/Backup mit RSYNC [[Vorlage(Überarbeitung, 9.7.2010, moonloop)]] {{{#!vorlage Wissen [:Terminal: Ein Terminal öffnen] [:Editor: Einen Editor öffnen] [:Rechte: Rechte für Dateien und Ordner ändern] [:Paketinstallation_DEB: Ein Paket installieren] }}} [[Inhaltsverzeichnis(1)]] Neben der üblichen, meist sehr aufwendigen und vor allem viel zu selten durchgeführten manuellen Sicherung auf externen Medien bietet sich eine automatische Lösung mit [:rsync:] an. Die Daten können etwa auf eine lokale Festplatte im gleichen Rechner, aber auch auf extern angeschlossene Festplatten (USB) oder per [:SSH:] über das Netzwerk gesichert werden. Das hier vorgestellte Backupscript ist automatisierbar und benötigt nur wenig Ausführungszeit, da es nur Änderungen neu sichert. Eine Alternative zu diesem Script sind [:rsnapshot:] und [:dirvish:]. Im Gegensatz zu diesem Script verfügen die genannten Programme über eine Vielzahl von weiteren Konfigurationsmöglichkeiten. Der Vorteil von diesem Backupscript ist jedoch die Einfachheit und Übersichtlichkeit sowie der Verzicht auf weitere Paketinstallationen. = Funktion = Das Backupscript erstellt für die angegebenen Quellpfade identische Kopien in dem Zielverzeichnis unterhalb des jeweiligen Tagesdatums (JJMMTT). Es spielt hierbei keine Rolle ob wirklich für jeden einzelnen Tag ein Backup vorliegt. Als Basis für das inkrementelle Sichern wird das letzte Backup automatisch ausgewählt. Das Backupscript nutzt Hardlinks, wodurch der Eindruck entsteht, dass in jedem Tagesordner sämtliche Dateien einer Vollsicherung abgelegt sind. Jedoch wird lediglich ein weiterer link auf die Datei angelegt, wodurch das Übertragen der Datei und der Speicherplatz im Backupmedium gespart werden. Beliebige Tagesbackups können so z.B. per TAR auf externen Medien gesichert werden. = Sichern über SSH = Das Script ermöglicht auch das Sichern von Daten von einem entfernten Rechner per [:SSH:]. Hierfür sind neben den korrekten Angaben für Quelle und Ziel nur Benutzername und Rechnername erforderlich. Zur automatischen Sicherung ist der Austausch von [:SSH#Authentifizierung-ueber-Public-Keys: SSH-Keys] notwendig. Auf dem zu sichernden Rechner muss ein SSH-Server laufen und der Benutzer benötigt ausreichende Rechte auf dem Zielsystem. Das Script arbeitet hierbei nur in eine Richtung, um auch für externe Sicherungen inkrementell arbeiten zu können. = Löschen alter Backups = Zur Minimierung der archivierten Datenmenge ist eine automatisierte Löschung alter Backups möglich. EXPIREDAYS gibt hierbei in Tagen an, wann ein Backup als veraltet gilt. Aufgrund der inkrementellen Sicherung betrifft die Löschung dann tatsächlich nur die Dateien, die vor mehr Tagen geändert oder gelöscht wurden. Bei der Angabe "0" findet keine Löschung statt. Die automatische Löschung ist vor allem dann ein Risiko wenn z.B. aufgrund von Systemfehlern über einen längeren Zeitraum keine Sicherung stattgefunden hat und somit die letzte Sicherung als veraltet gelöscht wird. = Überprüfen des Mountpoints = Über den Parameter "MOUNTPOINT" kann zur Laufzeit des Scripts geprüft werden ob der Backup-Zielordner, das externe Medium, eingebunden ist. Sollte es nicht eingebunden sein, so wird kein Backup durchgeführt. Wird kein Mountpoint ausgewählt so wird auf jeden Fall ein Backup durchgeführt. = Einschränkungen = Das Script wurde nur für unten gelisteten Dateisysteme getestet. Ein Einsatz von NFTS oder FAT als Zieldateisystem ist nur eingeschränkt möglich. ||<-3 rowclass="titel"> Getestete Dateisysteme || || FS || inkrementell || Hinweise || || ext2 || '''Ja'''||<|5> Praktisch alle UNIX-artigen Dateisysteme unterstuetzen [wikipedia:Hardlink: Hardlinks]. Im Zweifel hilft eine kurze Suche nach dem Dateisystem und dem Stichwort ''hardlinks''. Je nach der Implementation der Hardlinks, verbrauchen einige Dateisysteme u.U. mehr Speicherplatz als andere. || || ext3 || '''Ja''' || || ext4 || '''Ja''' || || xfs || '''Ja''' || || vzfs/unionfs || '''Ja''' || || HFS+ || '''Ja''' || Bei extern angeschlossenen Festplatten deaktiviert OS X standardmäßig die Benutzerrechteverwaltung, was inkrementelle Backups unmöglich macht. Diese kann man allerdings von Hand wieder aktivieren. || || FAT32 || Nein || Backups sind mit diesem Skript auch auf FAT32-Ziele möglich, jedoch nicht inkrementell. || || NTFS (ntfs-3g) || '''Ja''' ||<|2> NTFS unterstützt seit Windows 2000 Hardlinks und stellt die entspr. Funktionen per API zur Verfügung. Der ntfs-3g-Treiber unterstützt dies seit jaunty. Startet man das Skript unter Windows aus [wikipedia:Cygwin:] heraus, sind inkr. Backups ebenfalls möglich. || || NTFS (Windows) || '''Ja''' || = zusätzliche Pakete = Folgende Pakete sollten bei Bedarf installiert werden [4]: * '''rsync''' * '''openssh-server''' = Das Script = Zuerst öffnet man einen Texteditor [2] und kopiert den folgenden Text hinein: {{{ #!/bin/bash # Simple backup with rsync # SOURCES and TARGET must end with slash # MOUNTPOINT must end without slash #SOURCES="/root/ /etc/ /home/ /boot/" #TARGET="/media/server/backup/" #MOUNTPOINT="/media/server" #LOGFILE="/root/backup.log" #EXPIREDAYS=0 #RSYNC="--delete" #PACKAGES="/tmp/packages.list" #MAILREC="root@hostname" SOURCES="/mnt/home/rene/ /etc/" TARGET="/home/rene/platten/server/backup/" MOUNTPOINT="/home/rene/platten/server" LOGFILE="/tmp/backup.log" PACKAGES="/tmp/packages.list" MAILREC="rene@saturn.home" EXPIREDAYS=180 RSYNC="--delete" #SSHUSER="" #SSHHOST="" #SSHPORT=22 ### do not edit ### /bin/date > $LOGFILE MOUNTED=$(/bin/mount | /bin/fgrep "$MOUNTPOINT"); if [ -z "$MOUNTPOINT" ] || [ -n "$MOUNTED" ]; then if [ -e $TARGET ]; then LASTBACKUP=$(/bin/ls -d $TARGET[[:digit:]]* 2>> $LOGFILE | /usr/bin/sort -r | /usr/bin/head -1) fi TODAY=$(/bin/date +%y%m%d) if [ $EXPIREDAYS -gt 0 ]; then EXPIRED=$(/usr/bin/find $TARGET[[:digit:]]* -maxdepth 0 -ctime +$EXPIREDAYS 2>> $LOGFILE) for EX in $(/bin/echo $EXPIRED) do /bin/echo "rm -rf $EX " >> $LOGFILE /bin/rm -rf $EX done fi for SOURCE in $(/bin/echo $SOURCES) do if [ "$LASTBACKUP" ]; then INC="--link-dest=$LASTBACKUP$SOURCE" fi if [ "$SSHUSER" ] && [ "$SSHHOST" ] && [ "$SSHPORT" ]; then SSH="ssh -p $SSHPORT -l $SSHUSER"; SOURCEDIR="$SSHHOST:$SOURCE"; else SOURCEDIR=$SOURCE; fi /bin/mkdir -p $TARGET$TODAY$SOURCE >> $LOGFILE 2>> $LOGFILE; echo "/usr/bin/rsync -e \"$SSH\" -av $SOURCEDIR $RSYNC $INC $TARGET$TODAY$SOURCE " >> $LOGFILE 2>> $LOGFILE; /usr/bin/rsync -e "$SSH" -av $SOURCEDIR $RSYNC $INC $TARGET$TODAY$SOURCE >> $LOGFILE 2>> $LOGFILE; done if [ -n "$PACKAGES" ]; then echo "dpkg --get-selections | awk '!/deinstall|purge|hold/ {print $1}' > $PACKAGES " >> $LOGFILE 2>> $LOGFILE dpkg --get-selections | awk '!/deinstall|purge|hold/ {print $1}' > $PACKAGES 2>> $LOGFILE echo -e "/bin/mv $PACKAGES $TARGET$TODAY \n" >> $LOGFILE 2>> $LOGFILE /bin/mv $PACKAGES $TARGET$TODAY 2>> $LOGFILE fi /bin/date >> $LOGFILE /bin/cp $LOGFILE $TARGET$TODAY/backup-$(/bin/date +%T).log 2>> $LOGFILE else /bin/echo "$MOUNTPOINT not mounted" >> $LOGFILE fi if [ -n "$MAILREC" ];then /bin/echo -e 'Backup is finished!\n'$(/bin/date) | /usr/bin/mutt -s "Backup" -a $LOGFILE -- $MAILREC /bin/rm $LOGFILE fi }}} Die Datei wird z.B. unter dem Namen '''/root/backup.sh''' gesichert. = Installation und Ausführung = Das Script benötigt Ausführrechte. Diese mit chmod vergeben und das Script starten. {{{#!vorlage Befehl sudo chmod 755 /root/backup.sh sudo /root/backup.sh }}} Das Script erwartet genau einen Eintrag für das Ziel und einen bzw. mehrere Einträge für die Quellen. Alle übrigen Parameter sind optional. Sämtliche Pfade sind mit "/" zu beenden. Der Mountpoint darf kein abschließendes "/" enthalten. Eine '''Protokollierung''' der Aktionen und deren Rückgabewerte wird in die Logdatei geschrieben. Damit werden bei manueller Ausführung keine Meldungen in der Shell ausgegeben. Will man schon während der Laufzeit einen Blick in die Logdatei werfen, hilft für das obige Beispiel: {{{#!vorlage Befehl tail -f /root/backup.log }}} Abschließend wird die Logdatei in dem Tages-Backupordner abgelegt. Das Script kann z.B. in [:Cron:]-Abläufe eingebunden werden, womit es automatisiert ausgeführt wird. = RSYNC-Optionen = Das Backupscript nutzt [:rsync:] für die Synchronisation der Verzeichnisse. Über die Variable '''RSYNC''' kann die Sicherung z.B. eingeschränkt werden. {{{#!vorlage Befehl --delete gelöschte Dateien werden auch in der Sicherung gelöscht (hat nur Auswirkungen bei mehreren Sicherungsläufen pro Tag) --exclude=.* sämtliche Punkt-Dateien und Punkt-Verzeichnisse werden nicht gesichert --exclude=.mozilla Anwendungsdaten von Mozilla/Firefox werden nicht gesichert (z.B. Browser-Cache) }}} {{{#!vorlage Hinweis Das Script überprüft nicht, ob im Zielverzeichnis genügend freier Speicher vorhanden ist. Fehler bei den Eingabeparametern fängt das Script nicht ab. Fehlerhafte Angaben können das System zerstören, da die Aktionen als "root" ausgeführt werden. }}} = Externes Backup bei FAT-Partitionen = Für ein Backup auf einem externen Medium mit einem abweichenden Dateisystem kann ein beliebiges Tagesarchiv z.B. mit TAR leicht gesichert werden. {{{#!vorlage Befehl tar cvzf /media/extern/080122.tar.gz /media/backup/080122 }}} Dabei ist aber zu beachten, dass FAT Dateisysteme nur Dateien bis zu einer Größe von 4 GB erlauben. Ansonsten müssen mehrere TARs erstellt, oder ein Einzelnes gesplittet werden. = Daten zurücksichern = Die Daten können einfach mit Betriebssystemmitteln ([:Shell/cp:cp], [:rsync:]) bei Bedarf zurückkopiert werden. = Log-Datei per E-Mail versenden = Falls man eine E-Mail mit angehängter Log-Datei erhalten will, kann man folgenden Code an das Ende des Backup-Skripts anhängen. {{{ if [ -n "$MAILREC" ];then /bin/echo -e 'Backup is finished.\n'$(/bin/date) | /usr/bin/mutt -s "Backup" -a $LOGFILE -- $MAILREC fi }}} Dafür muss '''mutt''' installiert sein und in den Backup-Optionen die Variable gesetzt werden: {{{ MAILREC="root@hostname" }}} # tag: Shell, Sicherheit, Backup