阿里云oss同步文件到本地,添加宝塔定时任务自动同步

本文涉及的产品
对象存储 OSS,标准 - 本地冗余存储 20GB 3个月
对象存储 OSS,恶意文件检测 1000次 1年
对象存储 OSS,内容安全 1000 次 1年
简介: 阿里云oss同步文件到本地,添加宝塔定时任务自动同步

博客储存桶换到了又拍云,由于部署原因,云储存只是方便利用插件快速上传,只做储存用。访问的源站是到本地的,故需要将云储存上的文件镜像到本地,但找了半圈又拍不支持将云储存增量同步到本地(但可以本地->到云储存),但是阿里云oss可以,所以借助又拍云的融合云储存将文件同步到阿里云oss,在借助阿里云oss的ossutil命令行工具将文件储存到本地。完成需求。

1.安装阿里云ossutil命令行工具

  1. wget https://gosspublic.alicdn.com/ossutil/1.7.9/ossutil64

2运行以下命令修改文件执行权限。

  1. chmod 755 ossutil64

3.生成配置文件

  1. ./ossutil64 config

4.根据提示设置工具的语言和配置

请输入语言CH或EN。工具使用的语言默认与操作系统保持一致。该配置项将在此次config命令设置成功后生效。

根据提示分别设置EndpointAccessKey IDAccessKey SecretSTSToken参数。

参数说明如下:

  • endpoint:填写Bucket所在地域的Endpoint。各地域Endpoint详情,请参见访问域名和数据中心。
  • accessKeyID、accessKeySecret:填写账号的AccessKey。
  • stsToken:使用STS临时授权账号访问OSS时需要配置该项,否则置空即可。

5.安装完成,同步阿里云oss文件到本地

命令

注意: 同步到本地的文件夹,路径请严格按格式配置,否则可能会同步到ossutil安装目录去

  1. ./ossutil64 sync oss://你的oss储存桶名称/localdir/ destdir/
  2. #翻译⬇️
  3. ./ossutil64 sync oss://你的oss储存桶名称/oss目录文件夹/ 同步到本地的目录/
  4. ./ossutil64 sync oss://你的oss储存桶名称/localdir/ -u --update /destdir/
  5. #翻译⬇️
  6. -u --update 表示:只有当目标文件不存在,或源文件的最后修改时间晚于目标文件时,ossutil才会执行同步操作。

命令格式

  1. ./ossutil64 sync cloud_url file_url
  2. [-f --force]
  3. [-u --update]
  4. [--maxdownspeed <value>]
  5. [--delete]
  6. [--backup-dir <value>]
  7. [--enable-symlink-dir]
  8. [--disable-all-symlink]
  9. [--disable-ignore-error]
  10. [--only-current-dir]
  11. [--output-dir <value>]
  12. [--bigfile-threshold <value>]
  13. [--part-size <value>]
  14. [--checkpoint-dir <value>]
  15. [--range <value>]
  16. [--encoding-type <value>]
  17. [--snapshot-path <value>]
  18. [--include <value>]
  19. [--exclude <value>]
  20. [--disable-crc64]
  21. [--payer <value>]
  22. [-j, --job <value>]
  23. [--parallel <value>]
  24. [--retry-times <value>]

参数及选项说明如下:

配置项 说明
cloud_url OSS文件夹(目录)路径。格式为oss://bucketname/path/。例如oss://examplebucket/exampledir/。如果输入的cloud_url没有以正斜线(/)结尾,ossutil会自动在结尾处添加一个正斜线(/)。
file_url 待同步的本地文件夹路径。例如Linux系统文件夹路径/localfolder/Windows系统文件夹路径D:\localfolder\
-f --force 强制操作,不进行询问提示。
-u,--update 只有当目标文件不存在,或源文件的最后修改时间晚于目标文件时,ossutil才会执行同步操作。
--maxdownspeed 最大下载速度,单位为KB/s,默认值为0,表示不限制下载速度。
--delete 将目的端指定路径下的其他文件都删除,仅保留本次同步的文件。

警告 建议您使用--delete选项前开启版本控制,防止数据被误删。

--backup-dir 指定目标文件夹,用于保存目的端存在而源端不存在的文件。
--enable-symlink-dir 同步链接子目录。
--disable-all-symlink 同步目录时,忽略所有的链接子文件以及链接子目录。
--disable-ignore-error 批量操作时不忽略错误。
--only-current-dir 仅同步当前目录下的文件,忽略子目录及子目录下的文件。
--output-dir 指定输出文件所在的目录。输出文件是指批量同步文件出错时产生的report文件,默认保存在当前目录下的ossutil_output目录。
-bigfile-threshold 设置断点续传文件的大小阈值,单位为字节。

默认值:100 MB

取值范围:0~9223372036854775807

--part-size 设置分片大小,单位为字节。默认情况下ossutil会根据文件大小自行计算合适的分片大小值。

取值范围:1~9223372036854775807

--checkpoint-dir 指定断点续传记录信息所在的目录。断点续传操作失败时,ossutil会自动创建名为.ossutil_checkpoint的目录,并在该目录下记录checkpoint信息,断点续传成功后会删除该目录。如果指定了该选项,请确保指定的目录可以被删除。
--range 下载目标文件的指定字段,并保存为一个新的文件,字段从0开始编号。
  • 指定区间例如指定为3-9,表示下载文件的第3个字节到第9个字节(包含第3和第9字节)。
  • 指定开始位置例如指定为3-,表示从第3个字节开始到文件结尾(包含第3个字节)。
  • 指定结束位置例如指定为-9,表示从0字节到第9个字节(包含第9个字节)。
--encoding-type 文件名称的编码方式。取值为url。如果不指定该选项,则表示文件名称未经过编码。
--snapshot-path 指定保存同步文件时的快照信息所在的目录。在下一次同步文件时,ossutil会读取指定目录下的快照信息进行增量同步。
--include 包含符合指定条件的所有文件。
--exclude 不包含任何符合指定条件的文件。
--disable-crc64 关闭CRC64数据校验。
--payer 请求的支付方式。如果希望访问指定路径下的资源产生的流量、请求次数等费用由请求者支付,请将此选项的值设置为requester
-j,--job 多文件操作时的并发任务数,默认值为3,取值范围为1~10000。
--parallel 单文件操作时的并发任务数,取值范围为1-10000。 如果不设置此选项,默认由ossutil根据操作类型和文件大小自行决定。
--retry-times 发生错误后的重试次数。默认值为10,取值范围为1~500。

网络异常,图片无法展示
|

6.设置宝塔定时任务 自动同步

参考命令:

  1. cd /www2/upx##先进入到ossutil工具目录
  2. ./ossutil64 sync oss://a-oss-zmki-cn/ -u --update /www2/wwwroot/a-oss.zmki.cn/

网络异常,图片无法展示
|

 

相关实践学习
通义万相文本绘图与人像美化
本解决方案展示了如何利用自研的通义万相AIGC技术在Web服务中实现先进的图像生成。
目录
相关文章
|
23天前
|
存储 人工智能 Cloud Native
阿里云渠道商:OSS与传统存储系统的差异在哪里?
本文对比传统存储与云原生对象存储OSS的架构差异,涵盖性能、成本、扩展性等方面。OSS凭借高持久性、弹性扩容及与云服务深度集成,成为大数据与AI时代的优选方案。
|
3月前
|
存储 运维 安全
阿里云国际站OSS与自建存储的区别
阿里云国际站对象存储OSS提供海量、安全、低成本的云存储解决方案。相比自建存储,OSS具备易用性强、稳定性高、安全性好、成本更低等优势,支持无限扩展、自动冗余、多层防护及丰富增值服务,助力企业高效管理数据。
|
3月前
|
存储 域名解析 前端开发
震惊!不买服务器,还可以用阿里云国际站 OSS 轻松搭建静态网站
在数字化时代,利用阿里云国际站OSS可低成本搭建静态网站。本文详解OSS优势及步骤:创建Bucket、上传文件、配置首页与404页面、绑定域名等,助你快速上线个人或小型业务网站,操作简单,成本低廉,适合初学者与中小企业。
|
5月前
|
Web App开发 监控 安全
OSS客户端签名直传实践:Web端安全上传TB级文件方案(含STS临时授权)
本文深入解析了客户端直传技术,涵盖架构设计、安全机制、性能优化等方面。通过STS临时凭证与分片上传实现高效安全的文件传输,显著降低服务端负载与上传耗时,提升系统稳定性与用户体验。
534 2
|
3月前
|
存储 安全 API
某网盘不好用?有没有类似某网盘的存储软件?阿里云国际站 OSS:云存储的全能助手,你 get 了吗?
在数据爆炸时代,阿里云国际站OSS提供海量、安全、低成本的云存储服务,支持多种数据类型存储与灵活访问,助力企业与个人高效管理数据,降低存储成本。开通简便,操作友好,是理想的云端数据解决方案。
|
8月前
|
关系型数据库 MySQL Shell
MySQL 备份 Shell 脚本:支持远程同步与阿里云 OSS 备份
一款自动化 MySQL 备份 Shell 脚本,支持本地存储、远程服务器同步(SSH+rsync)、阿里云 OSS 备份,并自动清理过期备份。适用于数据库管理员和开发者,帮助确保数据安全。
|
9月前
|
消息中间件 监控 数据挖掘
【有奖实践】轻量消息队列(原 MNS)订阅 OSS 事件实时处理文件变动
当你需要对对象存储 OSS(Object Storage Service)中的文件变动进行实时处理、同步、监听、业务触发、日志记录等操作时,你可以通过设置 OSS 的事件通知规则,自定义关注的文件,并将 OSS 事件推送到轻量消息队列(原 MNS)的队列或主题中,开发者的服务即可及时收到相关通知,并通过消费消息进行后续的业务处理。
202 94
|
9月前
|
SQL 分布式计算 Serverless
基于阿里云 EMR Serverless Spark 版快速搭建OSS日志分析应用
基于阿里云 EMR Serverless Spark 版快速搭建OSS日志分析应用
221 0
|
分布式计算 Java 开发工具
阿里云MaxCompute-XGBoost on Spark 极限梯度提升算法的分布式训练与模型持久化oss的实现与代码浅析
本文介绍了XGBoost在MaxCompute+OSS架构下模型持久化遇到的问题及其解决方案。首先简要介绍了XGBoost的特点和应用场景,随后详细描述了客户在将XGBoost on Spark任务从HDFS迁移到OSS时遇到的异常情况。通过分析异常堆栈和源代码,发现使用的`nativeBooster.saveModel`方法不支持OSS路径,而使用`write.overwrite().save`方法则能成功保存模型。最后提供了完整的Scala代码示例、Maven配置和提交命令,帮助用户顺利迁移模型存储路径。
|
对象存储
一个通过 GitHub Action 将 GitHub 仓库与阿里云 OSS 完全同步的脚本
一种将 GitHub 仓库完全同步到阿里云 OSS 的方法。

热门文章

最新文章