开发者社区> 问答> 正文

OSSync:linux服务器增量备份工具

OSSync是一款专为阿里云OSS开发的基于inotify机制的linux服务器增量备份工具,采用Python开发。

主要特色

  • 基于inotify机制 - Inotify 是一个 Linux 内核特性,它实时监控文件系统的变化,比如删除、读、写,移动等操作。利用这个机制可以实现文件及时、高效同步到阿里云,避免频繁轮询等低效操作文件方式,减轻系统负载。
  • 可以一次同步多个本地文件夹和多个bucket - 只要定义好本地文件夹和bucket的映射关系,可以同时将多个本地文件夹同步到多个bucket.
  • 基于消息队列的多线程快速同步 - 采用消息队列和多线程机制,实现快速同步。
  • 安全准确同步 - 文件上传校验和失败重传确保文件完整同步。

开发这个工具的想法是受到一个真实的需求启发,那时我们的服务器图片文件已经几百G了,每天通过rsync进行同步备份,每次备份至少要半个小时,因为rsync每次都需要检查源文件和备份文件是否一致,并且不能做到及时同步。我们开始寻找能及时备份的工具,后来找到一款金山公司牛人开发的sersync,这款工具能及时检测文件变化并立即同步到备份服务器。比rsync更高效。受到这款工具的启发我开发了OSSync。
主要功能如图:



但是,OSSync不仅仅作为备份工具,请看:



DISCUZ默认将图片保存在本地服务器,默认为./data/attachement。如果将这个目录用OSSync同步到阿里云的bucket,那么这个文件夹中的子文件夹和目录的任何变化都会及时反应到阿里云的bucket。只需要按下面图片所示修改附件url地址,即可以作为discuz的上传插件使用。图片还是先保留到本地硬盘,但很快就会默默同步到阿里云oss,本地硬盘相当于高速缓存。图片的访问可以通过阿里云oss。基于inotify机制,这个过程是很快的。
除了discuz,其他像phpwind,wordpress基本上都类似可以使用这种方式。



该软件已有幸入选阿里云开发大赛入围作品,欢迎大家下载测试,批评和指正。如果觉得有用,请投我一票
,作品是第153号名叫Ossync,不胜感谢。



展开
收起
lanbaba 2012-10-26 17:37:34 28695 0
16 条回答
写回答
取消 提交回答
  • ReOSSync:linux服务器增量备份工具
    日志文件报错了:bucket没有问题哇,安装和配置没有别的报错哇
    CRITICAL   2014-11-03 11:53:40,664 Bucket: xxx is not existed or create bucket failure, lease rename your bucket.
    2014-11-25 12:43:36
    赞同 展开评论 打赏
  • ReOSSync:linux服务器增量备份工具
    如何安装啊?
    2014-02-22 15:13:43
    赞同 展开评论 打赏
  • ReOSSync:linux服务器增量备份工具
    不能同步呢。。
    2014-01-08 15:39:01
    赞同 展开评论 打赏
  • 感觉功能很多变啊 。。。。楼主 插件在那?
    2013-08-02 02:37:15
    赞同 展开评论 打赏
  • 回14楼黑蜘蛛侠的帖子
    oss-internal.aliyuncs.com是用于阿里云云主机与阿里oss之间的同步。因为是内网这让速度更快,可以达到15MB/s,外网可以使用oss.aliyuncs.com.

    回答完毕。
    2013-07-25 08:29:27
    赞同 展开评论 打赏
  • ReOSSync:linux服务器增量备份工具
    有几个问题:
    1、我设置的本地目录是/aaa/bbb/ccc,理论上我只想要ccc目录下的文件放到oss上,但是结果在bucket里看到了ccc目录。
    2、所有文件上传后,content-type都是application/octet-stream,因此希望增加type判断。
    3、增加expire头。
    4、如何开机启动啊?
    5、如何结束进程?一定得用kill -9 pid吗?
    2013-07-24 19:21:19
    赞同 展开评论 打赏
  • ReOSSync:linux服务器增量备份工具
    真心的希望楼主看看我弄得对不对

    2013-07-21 00:26:40
    赞同 展开评论 打赏
  • ReOSSync:linux服务器增量备份工具
    工具好诡异,安装部署非常麻烦
    2013-07-20 14:12:15
    赞同 展开评论 打赏
  • ReOSSync:linux服务器增量备份工具
    很好。不过好像要用到桌面环境?可以在命令行模式下运行吗?
    =======
    import: unable to open X server `' @ error/import.c/ImportImageCommand/361.
    import: unable to open X server `' @ error/import.c/ImportImageCommand/361.

    -------------------------

    ReOSSync:linux服务器增量备份工具
    [root@localhost ossync]# ./setup.py
    import: unable to open X server `' @ error/import.c/ImportImageCommand/361.
    import: unable to open X server `' @ error/import.c/ImportImageCommand/361.
    ./setup.py: line 27: syntax error near unexpected token `('
    ./setup.py: line 27: `if sys.version_info < (2, 6):'
    2013-05-19 16:32:59
    赞同 展开评论 打赏
  • ReOSSync:linux服务器增量备份工具
    发表个建议:
    如果不想仅当备份工具,那就增加支持实时同步,配置时可选择是否同步删除。
    其实实时同步并不需要考虑效率上的问题,如果存在问题,那应用向OSS实时提交数据,那效率会更低吧!所以效率应该由应用来决定。况且,如果应用访问量很大,一个VM是不够的,往往需要集群,就会有多个VM的目录需要同步到OSS。
    2013-01-14 12:29:30
    赞同 展开评论 打赏
  • ReOSSync:linux服务器增量备份工具
    这个不错,标记!
    2012-11-26 22:29:50
    赞同 展开评论 打赏
  • ReOSSync:linux服务器增量备份工具
    看来这里中小站长比较多啊,有没有用OSS做企业级应用的
    2012-10-27 16:51:31
    赞同 展开评论 打赏
  • 楼主有没有生产测试过,比如,拥有20G网站附件时,用这个来替代插件,效率怎么样?

    -------------------------

    回 6楼(lanbaba) 的帖子
    不是这个意思,我的意思是你总得要测试下 ,大量数据时,判断增量的效率如何。
    2012-10-27 11:40:39
    赞同 展开评论 打赏
  • ReOSSync:linux服务器增量备份工具

    对于论坛发帖来说问题还不是很大,因为发帖时用户上传图片在编辑帖子界面显示的是硬盘图片,而不是远程url的,只有保存帖子后才会根据远程URL显示。用户编辑帖子过程中一般还会进行插入图片和编辑帖子等操作,这个过程不会很短。当然对于繁忙的站点来说可能有点问题。用户保存完帖子后图片可能还没同步上去。
    可能还是用远程附件更靠谱些。谢谢提的这个问题。

    -------------------------

    回5楼ap6214f2r的帖子
    没实测过,跟网站现有图片数据大小倒关系不大,关键是看每秒新增图片多少。不过是不是可以这样,如果对程序稍加改动或者写个插件让阿里云提供旧图片访问,新增图片还是通过本地磁盘访问。是不是就能避免二楼提到的这个问题?
    2012-10-26 21:55:03
    赞同 展开评论 打赏
  • 东西很不错。

    只是你是异步操作。

    而会员发帖一般几十毫秒就开始返回结果了,而你的图片还没到OSS,最后的结果就是图片显示失败。

    建议结合DZ远程附件操作。
    2012-10-26 19:48:02
    赞同 展开评论 打赏
  • 看起来不错

    -------------------------

    引用第2楼wb3134_57d9于2012-10-26 19:48发表的  :
    东西很不错。

    只是你是异步操作。

    而会员发帖一般几十毫秒就开始返回结果了,而你的图片还没到OSS,最后的结果就是图片显示失败。
    .......

    确实是个问题
    2012-10-26 19:18:06
    赞同 展开评论 打赏
滑动查看更多
问答排行榜
最热
最新

相关电子书

更多
如何运维千台以上游戏云服务器 立即下载
网站/服务器取证 实践与挑战 立即下载
ECS计算与存储分离架构实践 立即下载