开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC里mysql CDC是否可以基于binlog的位置信息启动?

Flink CDC里mysql CDC是否可以基于binlog的位置信息启动? 同步数据时是否可以把binlog的位置信息传输到sink端?

展开
收起
小小鹿鹿鹿 2024-01-18 07:43:23 72 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Flink CDC的MySQL CDC连接器确实支持基于binlog的位置信息启动。在启动模式配置中,可以通过设置scan.startup.mode参数为specific-offsetlatest-offset来指定从特定的binlog位置或最新的binlog位置开始读取数据。

    同时,在Flink CDC的配置中,将flink.cdc.consumer.mysql.snapshot.identifier参数设置为新的binlog文件名,并将flink.cdc.consumer.mysql.snapshot.offset参数设置为新的binlog位置,可以使得Flink CDC作业重新启动并从指定的新位置开始读取binlog。

    此外,对于将binlog的位置信息传输到sink端的问题,目前Flink CDC还不支持将binlog的位置信息传输到sink端。但是,你可以通过一些其他方式来实现这个目的,例如,你可以在sink端自行读取binlog的位置信息,并根据这个位置信息来处理数据。

    2024-01-19 15:08:35
    赞同 展开评论 打赏
  • 这个需要自己改造实现点位数据下移,可以基于binlog点位启动,master现在支持binlog二分查找了。此回答来自钉群Flink CDC 社区。

    2024-01-18 10:51:41
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 热门讨论

    热门文章

    相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载