开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC任务停了在启动还会接着前一天的位置同步数据吗?

Flink CDC现在的需求不需要一直开着这个任务让它去监控数据的变化,而且每天数据量不大。领导那边不想他一直跑着,能不能像离线在零点之后去读取前一天变化的数据?具体参数配置上有没有需要注意的,例如启动模式用initia,后任务停了在启动还会接着前一天的位置同步数据吗?

展开
收起
真的很搞笑 2023-12-19 08:08:40 118 0
2 条回答
写回答
取消 提交回答
  • 那就不用实时,就周期抽取么T+1么,定时调用批任务就行 ,此回答整理自钉群“Flink CDC 社区”

    2023-12-19 16:36:52
    赞同 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Flink CDC确实支持定时任务来读取数据,以满足你的需求。你可以设置任务在每天的特定时间点启动,然后读取前一天的数据变化。这种方式一般采用批处理模式,可能无法保证数据的实时性,但是对数据一致性的影响相对较小。

    关于参数配置,你提到的initia模式是用于Flink SQL的,它允许你在启动时指定一个初始偏移量(initial offset),这样在任务停止后再次启动时,可以接着前一天的位置继续同步数据。所以,对于你的需求来说,选择initia模式并正确配置初始偏移量是一个不错的选择。

    另外,需要注意的是,Flink CDC是基于数据库日志CDC(Change Data Capture)技术的实时数据集成框架。它的工作原理是通过实时消费数据库里的日志变化来实现数据的同步,如通过连接器直接读取MySQL的binlog捕获变更。因此,在使用Flink CDC时,需要确保你的MySQL binlog没有过期而被自动清理,否则可能会影响历史数据的同步。

    2023-12-19 14:40:58
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载