用 rsync + cron 实现跨服务器文件自动同步:增量传输、失败重试与巡检告警实践

简介: 本文介绍如何用 rsync + cron 实现跨服务器文件自动同步:基于增量传输、断点续传与免密SSH,辅以flock防并发、日志记录及数据新鲜度巡检告警,轻量可靠,适合个人云服务器间镜像同步。

用 rsync + cron 实现跨服务器文件自动同步:增量传输、失败重试与巡检告警实践

一、场景

手里有两三台云服务器之后,一个很自然的需求是:A 服务器产生的数据,希望 B 服务器上有一份及时更新的镜像。比如运动健康数据每半小时在源服务器更新一次,我希望在另一台机器上直接读到最新副本做统计和日报;再比如配置文件、备份包,都适合用这种轻量方式同步。不需要上分布式存储,rsync + cron + SSH 这套老组合就足够可靠。本文记录实际做法和几个踩过的坑。

二、为什么是 rsync

增量传输:rsync 的滚动校验算法只传文件变化的部分,半小时同步一次几 MB 的数据,实际流量常常只有几十 KB。保留属性:权限、时间戳、软链接都能原样保留,镜像目录可以直接当源目录用。断点与容错:配合 --partial,大文件传一半断了,下次能续。

三、先打通免密 SSH

同步脚本要无人值守运行,必须用密钥登录,并为同步单独建一对密钥,不要和日常登录共用:ssh-keygen -t ed25519 -f ~/.ssh/sync_ed25519 -C "sync-job",再用 ssh-copy-id 把公钥装到源服务器。打通后先手动验证一次,并把源服务器指纹固定进 known_hosts,避免脚本运行时卡在首次连接确认上。一个容易忽略的环境差异:脚本在 cron 里运行时,环境变量和交互式终端不同,HOME、代理设置都可能不一样。做法是把同步逻辑写成独立脚本,在开头显式写清需要的变量和绝对路径,不依赖登录 shell 的配置。曾经因为脚本用了相对路径,手动跑一切正常、cron 里每次都失败,排查了很久。

四、同步脚本

脚本用 bash,set -euo pipefail 开头;定义 SRC 为 user@source-server:/opt/app/data/,DST 为本地镜像目录,LOG 为日志文件,SSH_CMD 为带专用密钥、BatchMode=yes、ConnectTimeout=15 的 ssh 命令。核心命令:rsync -az --partial --timeout=120 --exclude='*.tmp' --exclude='.cache/' -e "$SSH_CMD" "$SRC" "$DST",输出追加到日志,最后写一行带时间戳的 sync ok。参数说明:-a 归档保留权限时间戳,-z 传输压缩;--timeout 和 ConnectTimeout 一起给失败设上限,避免网络异常时脚本无限挂住、和下一次 cron 叠在一起跑;源路径末尾的斜杠表示同步目录内容而不是目录本身,斜杠有无是 rsync 新手最常见的错误来源;暂时不要加 --delete,源端误删时镜像还能救回来,确认需要严格镜像后再加,并先想好恢复方案。

五、cron 配置

每 30 分钟拉一次:*/30 * * * * 执行同步脚本。频率原则:比源数据更新频率略高即可,太密只增加无意义连接和日志。还要防并发:上一轮没跑完下一轮又启动可能互相踩,用 flock 加锁:*/30 * * * * flock -n /tmp/pull_data.lock 同步脚本,-n 表示拿不到锁直接退出,宁可跳过这一轮,也不排队堆积。

六、巡检:同步坏了要能第一时间知道

定时任务最大的风险不是失败,而是悄悄失败:脚本每天报错,日志没人看,一个月后才发现镜像还是旧的。对策是单独写巡检脚本,每 6 小时检查一次数据新鲜度:读取镜像目录 sync_meta.json 里源端写入的 synced_at 时间戳,计算距今小时数,超过 2 小时就输出 ALERT 并以非 0 退出,否则输出 OK 和最近同步时间。思路是检查结果而不是检查进程:不看 cron 有没有跑、脚本有没有报错,只看镜像里的数据到底新不新。巡检非 0 时通过常用通知渠道发一条告警即可。同样的思路也适用于其他自托管服务:判断健康的标准应该是产出的数据是否新鲜、接口是否真的能返回内容,而不是进程还在不在。

七、常见问题排查顺序

同步异常时按这个顺序查,基本覆盖九成情况:1)手动跑一次脚本看完整报错,不要只看 cron 邮件摘要;2)单独测 SSH,ssh -i 密钥 user@host true,确认密钥和网络通;3)看源端文件时间戳,确认源端本身在更新,有时候是源端先坏了;4)看目标端磁盘空间 df -h,日志和镜像把盘写满是静默失败的经典原因;5)最后再怀疑 rsync 参数和权限。

八、小结

这套方案没有用任何新工具,全是 Linux 自带的老家伙:SSH 管通道,rsync 管增量,cron 管调度,flock 防并发,再加一个只看数据新鲜度的巡检。简单、透明、坏了好查——对于个人服务器之间的数据同步,这四点比功能丰富更重要。

相关文章
|
6天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
7825 19
|
6天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
2510 12
|
1天前
|
人工智能 安全 应用服务中间件
NGINX 爆出两处高危漏洞 可导致未经身份验证的远程代码执行
NGINX曝出两个高危漏洞(CVE-2026-123633和CVE-2026-123007),CVSS 9.2分,均属HTTP/2内存安全缺陷,无需认证即可远程执行代码。影响自2015年起的多个版本,静态站点亦受威胁。修复版本为开源版1.30.7/1.31.9。(239字)
1228 0
NGINX 爆出两处高危漏洞 可导致未经身份验证的远程代码执行
|
4天前
|
传感器 安全 区块链
Windows 电脑运行安卓应用教程:开源工具 ApkStart 双击 APK 即装、独立窗口运行
ApkStart 是一款开源Windows工具,让安卓APP像原生软件一样运行:双击APK即安装、生成真实图标、独立窗口启动、开始菜单可搜索。无需传统模拟器,内置QEMU运行时,支持数据互通、ARM兼容与命令行操作。(239字)
|
9天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
9天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
21天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
10602 59
|
5天前
|
人工智能 弹性计算 开发工具
零成本玩各大模型!DeepSeek Harness dsh-our-free-model 插件,13 个厂商模型直接用
总结一下:装这个插件,你不用注册、不用绑卡、不用填一个 Key,就能在 DeepSeek Harness 里用上 DeepSeek V4.1 Flash、Kimi K3 这一批前沿模型,而且是白嫖的、还不限量。三步搞定:下载插件,复制包含 `package.json` 的插件目录路径,在「添加插件」里粘贴路径安装并重启。无论是在阿里云 ECS 上通过命令行部署的 Web 版,还是本地的 Electron 桌面端,都能顺利跑通,快速搭建一套零成本的免费模型使用环境。
1146 1
|
7天前
|
Linux API iOS开发
【DSH】DeepSeek Harness新手保姆教程(下载+安装+配置+使用,2026最新实测)
DeepSeek Harness(dsh)是DeepSeek AI开源的智能体框架,秉持“一切皆插件”理念,支持读文件、改代码、跑命令、处理表格、联网搜索等操作。免费开源,兼容Windows/macOS/Linux,提供桌面端与网页端,可灵活安装插件扩展能力。

热门文章

最新文章