1.Linux下rsync+sersync实现数据实时同步
2.Rsync 笔记
3.对Linux上使用LUKS加密的命码部分进行备份
4.在Linux系统中批量删除多个文件的方法总结
Linux下rsync+sersync实现数据实时同步
防止数据丢失,确保数据有备份,令源并且实时备份,源码是分析实时同步的目的。实时同步通过检测当前目录的命码变化并触发同步至远程服务器,以保证数据连续性,令源画弧源码降低维护成本。源码
sersync与rsync是分析常用的文件同步工具,两者结合实现高效实时数据同步,命码尤其适合需要实时备份或同步大量数据的令源环境。当sersync检测到文件变化时,源码自动调用rsync同步至远程服务器或备份服务器,分析减少数据传输,命码提高数据一致性和安全性。令源
在配置sersync和rsync实现文件同步时,源码需要分别在两台服务器上进行设置。首先,确保服务器的防火墙已关闭,然后分别安装sersync和rsync。sersync可能不在官方软件仓库中,需从源代码或预编译的二进制文件安装。查看并修改notify参数,java买源码确保其值适当。接下来,编辑sersync的confxml.xml配置文件,设置监控目录、目标服务器信息和同步选项。配置完成后,启动sersync服务。
对于目标服务器,确保rsync已安装。若未安装,可通过包管理器安装。在目标服务器上配置rsync,编辑/etc/rsyncd.conf或创建新配置文件,定义模块和同步选项。创建密码文件,并确保其权限严格,只有所有者可读写。启动rsync守护进程,完成同步配置。
测试同步功能时,在源服务器的源码和掩码/home目录下创建用户目录和新建文件,检查目标服务器上是否实时同步显示。确保一切正常工作,以实现有效数据同步。
Rsync 笔记
rsync概述
rsync是Linux系统下的数据镜像备份工具,具备快速增量备份功能,支持远程同步至其他Linux系统,亦可实现本地文件复制,或与SSH、rsync服务端主机同步。
rsync特性与认证方式
rsync常用认证方式包括rsync-daemon方式与ssh方式。实际操作中,rsync-daemon方式应用更为广泛。
使用时需确保服务器与客户端均安装rsync程序。
rsync-daemon认证与ssh认证的流程与注意事项。
rsyncd.conf详解
全局参数与模块参数在配置rsyncd.conf时需注意,模块参数用于定义服务器要同步的目录,而模块声明格式为[module],类似Samba服务器的共享名。path参数则具体指定同步数据。
rsync命令与安装方式
rsync安装有源码方式与RPM方式两种。需要注意的BI平台源码是,无论服务器端还是客户端,使用的是同一版本的rsync软件包。
源码安装与RPM安装步骤。
配置rsync daemon
rsync配置分为服务端与客户端,通过rsync协议,服务端需启动守护进程。配置包括服务器端与客户端的设置。
Inotify概要
Inotify是Linux内核提供的文件系统事件监控机制,支持添加、删除、修改、移动等文件操作的监控。第三方软件如inotify-tools利用内核接口监控文件变化,而rsync可通过Inotify实现触发式同步,确保数据实时性。
Inotify监控事项与参数说明
通过Events描述Inotify事件含义,如文件创建、修改、删除等。调整内核参数backuper以适应监控需求,确保系统性能与服务需要。求UPS源码通过sysctl.conf文件配置这些参数。
rsync+Inotify案例
通过rsync与Inotify结合,实现目录监控与实时同步。rsync-inotify配置方法包括rsync端配置与验证,通过sersync实例演示功能应用。
对Linux上使用LUKS加密的部分进行备份
我们中有些人出于安全原因,在家里或者VPS上通过Linux统一密钥配置(LUKS)为硬盘驱动器加密,而这些驱动器的容量很快会增长到数十或数百GB。因此,虽然我们享受着LUKS设备带来的安全感,但是我们也该开始考虑一个可能的远程备份方案了。对于安全的非现场备份,我们将需要能在LUKS加密的设备上以块级别操作的东西。因此,最后我们发现这么个状况,我们每次都需要传输想要做备份的整个LUKS设备(比如说GB大)。很明显,这是不可行的。我们该怎么来处理这个问题呢?
一个解决方案: Bdsync
这时,一个卓越的开源工具来拯救我们了,它叫Bdsync(多亏了Rolf Fokkens)。顾名思义,Bdsync可以通过网络同步“块设备”。对于快速同步,Bdsync会生成并对比本地/远程块设备的块的MD5校验和,只同步差异部分。rsync在文件系统级别可以做的,Bdsync可以在块设备级别完成。很自然,对于LUKS加密的设备它也能工作得很好。相当地灵巧!
使用Bdsync,首次备份将拷贝整个LUKS块设备到远程主机,因而会花费大量时间来完成。然而,在初始备份后,如果我们在LUKS设备新建一些文件,再次备份就会很快完成,因为我们只需拷贝修改过的块。经典的增量备份在起作用了!
安装Bdsync到Linux
Bdsync并不包含在Linux发行版的标准仓库中,因而你需要从源代码来构建它。使用以下针对特定版本的指令来安装Bdsync及其手册页到你的系统中。
Debian,Ubuntu或Linux Mint
代码如下:
$ sudo apt-get install git gcc libssl-dev
$ git clone /TargetHolding/bdsync.git
$ cd bdsync
$ make
$ sudo cp bdsync /usr/local/sbin
$ sudo mkdir -p /usr/local/man/man1
$ sudo sh -c 'gzip -c bdsync.1 /usr/local/man/man1/bdsync.1.gz'
Fedora或CentOS/RHEL
代码如下:
$ sudo yum install git gcc openssl-devel
$ git clone /TargetHolding/bdsync.git
$ cd bdsync
$ make
$ sudo cp bdsync /usr/local/sbin
$ sudo mkdir -p /usr/local/man/man1
$ sudo sh -c 'gzip -c bdsync.1 /usr/local/man/man1/bdsync.1.gz'
对LUKS加密的设备实施非现场增量备份
我假定你已经准备好了一个LUKS加密的块设备作为备份源(如,/dev/LOCDEV)。同时,我假定你也有一台远程主机,用以作为源设备的备份点(如,/dev/REMDEV)。
你需要在两台系统上具有root帐号访问权限,并且设置从本地访问远程的无密码SSH访问。最后,你需要安装Bdsync到两台主机上。
要在本地主机上初始化一个远程备份进程,我们需要以root执行以下命令:
代码如下:
# bdsync "ssh root@remote_host bdsync --server" /dev/LOCDEV /dev/REMDEV | gzip /some_local_path/DEV.bdsync.gz
这里需要进行一些说明。Bdsync客户端将以root打开一个到远程主机的SSH连接,并执行带有--server选项的Bdsync客户端。明确说明一下,/dev/LOCDEV是我们的本地主机上的源LUKS块设备,而/dev/REMDEV是远程主机上的目标块设备。它们可以是/dev/sda(作为整个磁盘),或者/dev/sda2(作为单个分区)。本地Bdsync客户端的输出结果随后被管道输送到gzip,用来在本地主机中创建DEV.bdsync.gz(所谓的二进制补丁文件)。
你第一次运行上面的命令的时候,它会花费很长一段时间,这取决于你的互联网/局域网速度,以及/dev/LOCDEV的大校记住,你必须有两个大小相同的块设备(/dev/LOCDEV和/dev/REMDEV)。
下一步是要将补丁文件从本地主机拷贝到远程主机。一种方式是使用scp:
代码如下:
# scp /some_local_path/DEV.bdsync.gz root@remote_host:/remote_path
最后一步,是要在远程主机上执行以下命令,它们会将补丁文件应用到/dev/REMDEV:
代码如下:
# gzip -d /remote_path/DEV.bdsync.gz | bdsync --patch=/dev/DSTDEV
我推荐在使用真实数据部署Bdsync前,使用一些(没有任何重要数据)小分区来做这些测试。在你完全弄懂整个设置是如何工作之后,你可以开始备份真实数据。
尾声
小结之,我们演示了如何使用Bdsync来为LUKS设备实施增量备份。和rsync一样,每次备份只有一小部分数据,而不是整个LUKS设备,需要被推送到非现场备份点,这样会节省带宽和备份时间。剩下来,需要通过SSH或SCP来保证所有数据传输的安全,事实上设备自身是由LUKS加密的。也可以通过使用可以运行bdsync的专用用户(而非root)来改进该配置。我们也可以将bdsync用于任何块设备,如LVM卷或RAID磁盘,也可以很轻易地设置Bdsync备份本地磁盘到USB驱动器上。如你所见,它有着无限可能性!
在Linux系统中批量删除多个文件的方法总结
当我们在linux系统中要删除数万或者数十万甚至数百万的文件时使用rm -rf *就不太好用,因为要等待很长一段时间。在这种情况之下我们可以使用linux系统命令rsync来巧妙的处理。rsync实际上用的是替换原理,处理数十万个文件也是秒删。
1. rsync安装,有些系统默认安装有该命令
ubuntu系统:
代码如下:
sudo apt-get install rsync
fedora 系统:
代码如下:
sudo yum install rsync
其他的可以源码安装,到下面的网站下载
http://rsync.samba.org
2. rsync提供了一些跟删除有关的参数
rsync --help | grep delete
--del an alias for --delete-during
--delete delete extraneous files from destination dirs
--delete-before receiver deletes before transfer, not during
--delete-during receiver deletes during transfer (default)
--delete-delay find deletions during, delete after
--delete-after receiver deletes after transfer, not during
--delete-excluded also delete excluded files from destination dirs
--ignore-errors delete even if there are I/O errors
--max-delete=NUM don't delete more than NUM files
其中--delete-before接收者在传输之前进行删除操作
3. 示例
清空目录或文件,如下:
1、先建立一个空目录
代码如下:
mkdir /data/blank
2、用rsync删除目标目录
代码如下:
rsync --delete-before -d -a -H -v --progress --stats /data/blank/ /var/edatacache/
或者
代码如下:
rsync --delete-before -d /data/blank/ /var/edatacache/
这样/var/edatacache目录就被快速的清空了。
选项说明:
–delete-before 接收者在传输之前进行删除操作
–progress 在传输时显示传输过程
-a 归档模式,表示以递归方式传输文件,并保持所有文件属性
-H 保持硬连接的文件
-v 详细输出模式
–stats 给出某些文件的传输状态
-d transfer directories without recursing
删除文件夹
如果大量小文件都集中在几个目录中,那么这个方法就有用了。
代码如下:
rm -f /var/log/httpd/access.log
将会强制删除/var/log/httpd/access.log这个文件
-r 就是向下递归,不管有多少级目录,一并删除
-f 就是直接强行删除,不作任何提示的意思
-i 进行交互式删除。
提示:使用rm命令要小心。因为一旦文件被删除,它是不能被恢复的。了防止这种情况的发生,可以使用i选项来逐个确认要删除的文件。如果用户输入y,文件将被删除。如果输入任何其他东西,文件则不会删除。
使用这个rm -rf删除文件的时候一定要格外小心,linux没有回收站的。
rm -r 目录名:
将子目录及子目录中所有档案删除
代码如下:
[root@localhost test]# ls -l
总计 drwxr-xr-x 7 root root - : scf
drwxr-xr-x 2 root root - : test1
drwxr-xr-x 3 root root - : test2
drwxrwxrwx 2 root root - : test3
drwxr-xr-x 2 root root - : test4
drwxr-xr-x 3 root root - : test5
代码如下:
[root@localhost test]# rm -r test1
rm:是否进入目录 “test1”? y
rm:是否删除 一般文件 “test1/log3.log”? y
rm:是否删除 目录 “test1”? y
代码如下:
[root@localhost test]# ls -l
总计 drwxr-xr-x 7 root root - : scf
drwxr-xr-x 3 root root - : test2
drwxrwxrwx 2 root root - : test3
drwxr-xr-x 2 root root - : test4
drwxr-xr-x 3 root root - : test5
[root@localhost test]#
rm -rf 目录名 :
把子目录及子目录中所有档案删除,并且不用一一确认
代码如下:
[root@localhost test]# rm -rf test2
[root@localhost test]# ls -l
总计 drwxr-xr-x 7 root root - : scf
drwxrwxrwx 2 root root - : test3
drwxr-xr-x 2 root root - : test4
drwxr-xr-x 3 root root - : test5
[root@localhost test]#