开发者社区> 问答> 正文

使用Canal实现全量+增量数据同步方案

历史的binlog已经丢失,如何使用canal实现全量+增量的数据同步。 先用类似于dataX触发一次全量同步?如果这样 ,那这增量binlog的位置怎么确定才能实现数据同步的exactly once?

求大佬解答

原提问者GitHub用户minchowang

展开
收起
山海行 2023-04-27 19:16:56 711 0
1 条回答
写回答
取消 提交回答
  • 1、若场景允许,请通过下游目标端对数据的幂等处理来达到数据的最终一致性

    2、若业务场景需要全量和增量同步衔接上exactly once,可参考debezium的实现方案: 数据库锁+事务快照一致性读来解决这个问题。

    3、Canal 本质是一个binlog 数据解析工具,在下游做了一些生态的适配

    原回答者GitHub用户wingerx

    2023-04-28 13:56:53
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
MaxCompute技术公开课第四季 之 如何将Kafka数据同步至MaxCompute 立即下载
低代码开发师(初级)实战教程 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载