开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

oracle存量同步,归档日志也没了,Flink CDC用不了吧?这个有推荐的工具吗?

oracle存量同步,归档日志也没了,Flink CDC用不了吧?这个有推荐的工具吗?datax做存量同步,同时cdc做增量同步,这个方案是不是也可以,近实时性要求

展开
收起
真的很搞笑 2023-11-06 20:16:17 83 0
2 条回答
写回答
取消 提交回答
  • datax全量同步, 然后根据时间戳定时跑增量数据. (如果你们实时性要求不高的话, 一般跑增量就30分钟一次).是可以的,但是要保证你的目标库要有幂等性, 同一条数据插入几次,不会重复,此回答整理自钉群“Flink CDC 社区”

    2023-11-08 07:41:02
    赞同 展开评论 打赏
  • 如果Oracle的归档日志被删除或者不存在,Flink CDC可能无法正常工作。在这种情况下,您可以考虑使用其他工具进行数据同步。如您提到的DataX,它可以用于数据的导入导出,支持多种数据库类型,同时也支持增量和全量的数据同步。因此,对于存量数据同步,您可以使用DataX进行全量同步;而对于增量数据同步,可以使用Flink CDC。

    同时,为了解决Flink CDC在处理Oracle数据时可能存在的延迟问题,您可以尝试调整debezium的相关参数来进行优化。这样既可以确保数据的近实时性要求,也可以提高数据同步的效率。

    2023-11-07 11:05:37
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    PostgresChina2018_赖思超_PostgreSQL10_hash索引的WAL日志修改版final 立即下载
    Kubernetes下日志实时采集、存储与计算实践 立即下载
    日志数据采集与分析对接 立即下载

    相关镜像