rsync

跟高手学习LINUX笔记--题外话

走远了吗. 提交于 2020-02-25 19:52:21
这些是日常项目中用到的小知识点,希望能为您带来帮助 rsync+inotify操作方法 1.1应用方式:由于客户需要将两台web服务器的/www目录做到同步 应用与改进过程:一开始想到用crond+rsync来实现,但由于客户的文件比较多,此方式占用CPU资源高,因此采用了 rsync+inotify这种触发式同步方式 1.2软件说明: 1.2.1Rsync: rsync是类unix系统下的数据镜像备份工具。使用快速增量备份工具Remote Sync可以远程同步, 支持本地复制,或者与其他SSH、rsync主机同步。 1.2.2Inotify: Inotify 是一个 Linux特性,它监控文件系统操作,比如读取、写入和创建。Inotify 反应灵敏,用法非常简单,并且比 cron 任务的繁忙轮询高效得多。学习如何将 inotify 集成到您的应用程序中,并发现一组可用来进一步自动化系统治理的命令行工具。 1.2.3rsync+inotify: 随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的。而且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。其次

Linux系统中的文件传输优化

与世无争的帅哥 提交于 2020-02-25 19:27:55
scp命令 scp在传输的时候,速率相对而言较慢,但不会加大磁盘输入输出的负载 rsync(远程同步) 准备实验素材 在输入密码的时候也会加长时间 加密:不用输入密码,直接进行 生成如图所示的脚本,使进行三次操作,观察scp和rsync运行的时间 rsync的用法 文件的归档压缩 来源: 51CTO 作者: wx5e0444acbb5dc 链接: https://blog.51cto.com/14653135/2470709

本人的第一个博客

家住魔仙堡 提交于 2020-02-21 08:00:05
hello world 个人运维技能必备 语言: Python、Shell 系统: Linux、Windows 数据库: Mysql、Redis、MongoDB MySQL代理: Mycat、Altas、Cobar 版本管理: Git 高可用/负载均衡 LVS、Nginx、HAProxy、Keepalived 批量管理: Ansible、Saltstack 装机: Kickstart、Cobbler 容器/虚拟化: Docker、KVM、VM 持续集成: Jenkins 日志: ELK Stack 监控: Zabbix、Promentheus、Grafana、告警平台、Drools监控 分布式: Ceph、GlusterFS、FastDFS web: Nginx、Tomcat、Apache 抓包分析: Tcpdump、Wireshark 同步备份: Rsync 来源: https://www.cnblogs.com/small-wei/p/10825972.html

lsyncd部署

天大地大妈咪最大 提交于 2020-02-19 16:32:33
1.官方地址 [https://github.com/axkibe/lsyncd](https://github.com/axkibe/lsyncd) 2.lsyncd介绍 [https://www.cnblogs.com/zxci/p/6243574.html](https://www.cnblogs.com/zxci/p/6243574.html) lsyncd简介 Lysncd 实际上是lua语言封装了 inotify 和 rsync 工具,采用了 Linux 内核(2.6.13 及以后)里的 inotify 触发机制,然后通过rsync去差异同步,达到实时的效果。我认为它最令人称道的特性是,完美解决了 `inotify + rsync`海量文件同步带来的文件频繁发送文件列表的问题 —— 通过时间延迟或累计触发事件次数实现。另外,它的配置方式很简单,lua本身就是一种配置语言,可读性非常强。lsyncd也有多种工作模式可以选择,本地目录cp,本地目录rsync,远程目录rsyncssh。 实现简单高效的本地目录同步备份(网络存储挂载也当作本地目录),一个命令搞定。 3.安装 [root@nfs01 ~]# yum install lsyncd -y 4.创建配置文件 [root@nfs01 ~]# cat /etc/lsyncd.conf settings { logfile

YUM源部署和使用

无人久伴 提交于 2020-02-16 16:30:27
1.前言 为什么需要内部yum源呢,有可能是业务内部的服务器对外是不通了,居于一些安全方面的考虑。内部yum源又有什么好处呢,第一,速度快;第二,内网可控,外网有问题也不影响内网包的下载和安装等。 2.部署 2.1 创建yum仓库目录 mkdir -p /data/yum_data/centos/6/os/x86_64/ mkdir -p /data/yum_data/centos/6/extras/x86_64/ mkdir -p /data/yum_data/centos/6/updates/x86_64/ mkdir -p /data/yum_data/epel/6/x86_64/ 2.2 镜像同步公网yum源 上游yum源必须要支持rsync协议,否则不能使用rsync进行同步 CentOS官方标准源: rsync://mirrors.ustc.edu.cn/centos/ epel源: rsync://mirrors.ustc.edu.cn/epel/ 同步命令: rsync -auvzP --bwlimit=1000 rsync://rsync.mirrors.ustc.edu.cn/centos/6/os/x86_64/ /data/yum_data/centos/6/os/x86_64/ rsync -auvzP --bwlimit=1000 rsync:/

系统中的文件传输

给你一囗甜甜゛ 提交于 2020-02-12 22:59:06
系统中的文件传输 前言 系统中文件传输实验需要两台虚拟机 本次演示的实验以及后续的实验使用rhel7_node1和rhel8_node1两台虚拟机 rhel7_node1和rhel8_node1相当于两台电脑哈 rhel7_node1设置的网络IP为192.168.43.10 rhel8_node1设置的网络IP为192.168.43.11 windows中VWware15中新建的虚拟机默认情况下5分钟进行锁屏,影响实验效率,设置不锁屏步骤如下: 一.文件传输命令(scp&rsync) 1.scp命令 scp 本地文件 远程主机用户@远程IP:远程主机目录 相当于 文件上传 ,将自己主机上的文件上传到远程主机 scp 远程主机用户@远程IP:远程主机目录 本地文件 相当于 文件下载 ,将远程主机文件下载到本机上 实验思路: - 两台虚拟机已经配置完毕,相互可以实现网络通信 - rhel7_node1主机远程连接rhel8_node1,也就是在企业7虚拟机中可以直接操作企业8.(即同一个虚拟机中可以看到两个虚拟机的情况) - 企业7中打开两个终端,一个查看rhel7_node1主机,一个查看rhel8_node1主机的情况 - 在rhel7_node1中建立实验素材 (桌面创建westos文件和westosdir目录) - 测试文件传输,使用上传和下载命令,在rhel8

集群架构

纵然是瞬间 提交于 2020-02-08 05:20:11
回到顶部(go to top) 01. 了解集群架构服务器组成 基本架构组成:(用于让用户进行访问) 前端服务部分: 1 )顾客 - 用户 是一个访问者,请求访问网站页面 2 )保安 - 防火墙设备 对访问架构用户进行策略控制,正常访问网站用户,可以放行进入;非法人员(黑客)访问网站,禁止进入 3 )对讲机 - 交换机(外网) 提供架构中服务器相互通讯交流的需求(提供外部人员访问) 4 )迎宾人员 - 负载均衡服务器 对用户的访问请求进行调度处理 5 )服务员 - 网站 web 服务器 对用户的请求进行响应处理 后端服务部分: 1 )对讲机 - 交互机(内网) 提供架构中服务器相互通讯交流的需求(提供内部局域网服务器通讯交流) 2 )厨师 - 数据库服务器 主要用于存储用户提交文字(字符串)数据信息 3 )厨师 - 存储服务器 主要用于存储用户上传视频 音频 图片 附件等数据资料 4 )厨师 - 备份服务器 主要用于对用户存储(上传)数据信息进行统一备份管理 5 )厨师 - 缓存服务器 主要用于存储用户经常访问的数据信息,提升请求数据信息的响应效率 扩展架构组成:(用于让运维人员远程管理架构中的服务器) 1 )员工 - 运维人员 可以远程管理架构中服务器(通过特殊通道-VPN隧道) 2 )审计 - 跳板机服务器 用于监管内部运维人员操作记录信息,一旦出现架构问题

Linux下面rsync 实现 完全一致的同步方法

旧巷老猫 提交于 2020-02-06 15:27:41
1. 在某些特殊的linux机器上面, 比如龙芯后者是飞腾服务器,部分工具不太好用, 需要使用x86弄好之后进行同步过去, 这个时候scp 最简单但是网络流量非常大, 不如使用rsync, rsync 一开始不知道能够实现source文件夹的删除操作, destation文件夹也可以重演. 2. rsync的两种模式 ssh模式和daemon模式. 简单起见 可以使用ssh-copy-id 实现无密码登录的话 可以使用 ssh 模式 更加方便一些. 关于rsync的两种模式: 该部分额外的内容来自IBM官方网站上的一篇文章。该文章把rsync的运行模式扩展成了四种,但我认为rsync官方文档的两种模式的划分更加合理一些。 所谓rsync daemon,就是在一台机器上永久运行的rsync进程。在任何一台安装rsync的机器上运行rsync --daemon,则这台机器上运行的rsync就是rsync daemon。我们可以把文件发送给daemon,也可以向daemon请求文件。 daemon模式非常适合创建中心备份服务器,或项目存储库。 两种模式的区别前面已经说过,shell模式在源路径和目的路径中使用一个冒号,而daemon模式使用两个冒号。 关于rsync命令的语法: 本地拷贝: rsync [选项] SRC… DEST,在本地进行复制操作 shell模式: rsync [选项

rsync学习笔记

可紊 提交于 2020-02-06 02:26:33
一、rsync介绍 1)rsync是什么? rsync(remote synchronize),一款开源的远程数据备份的优秀工具 2)与SCP的比较: SCP无法备份大量数据,类似Windows的复制 rsync:边复制,边统计,边比较 3)第一次同步时,rsync会复制全部内容,但在下一次只传输修过的文件 4)数据同步的两种方式: push(推):rsync服务器主动推送数据给其他主机。服务器开销大,适合后端服务器少的情况 pull(拉):客户端主动向rsync服务器拉取数据 5)监听端口:873 [ root@qll251 ~ ] # grep rsync /etc/services rsync 873/tcp # rsync rsync 873/udp # rsync [ root@qll251 ~ ] # 6)Xinetd管理rsync工作 xinetd(extended internet daemon),新一代的网络守护进程服务程序,又叫超级Internet服务器。用来管理多种轻量级Internet服务,比如:TFTP、rsync、Telnet等 二、rsync安装 # 本次实验以CentOS7.7为例 [ root@qll251 ~ ] # cat /etc/redhat-release CentOS Linux release 7.7.1908 ( Core ) [

Linux&&rsync远程同步

泪湿孤枕 提交于 2020-02-05 06:27:24
Linux&&rsync远程同步 基于SSH源的rsync实现(定时同步) 服务端部署步骤 客户端部署步骤 实现免密钥的rsync或ssh或scp 实现定时任务rsync同步 基于inotify的rsync实现(实时同步) Linux内核的inotify机制 服务端部署步骤 安装辅助工具inotify-tools 通过inotifywait触发rsync同步操作 rsync实现源服务器与客户端的数据同步 服务端部署步骤 客户端部署步骤 基于rsync源的免交互实现 rsync常见错误一 rsync常见错误二 一款快速增量备份工具 命令选项: -r:递归模式,包含目录及子目录中所有文件 -l:对于符号链接文件仍然复制为符号链接文件 -p:保留文件的权限标记 -t:保留文件的时间标记 -g:保留文件的属组标记(仅超级用户使用) -o:保留文件的属主标记(仅超级用户使用) -D:保留设备文件及其他特殊文件 备份操作类型: rsync源服务器: 指备份操作的远程服务器,也称备份源 备份源分为rsync源和SSH源两种 基于SSH源的rsync实现(定时同步) 服务端部署步骤 服务端准备好 存放数据的目录 和 需要备份的数据 即可。 客户端部署步骤 确认网络环境,客户端能够访问到服务端。 #创建 存放数据的目录 mkdir -p /var/www/html #从远处往本地同步:rsync