开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC比如mysql 能指明时间点位抽取数据吗?

Flink CDC比如mysql 能指明时间点位抽取数据吗?

展开
收起
cuicuicuic 2023-11-06 20:15:18 34 0
2 条回答
写回答
取消 提交回答
  • flink-cdc依赖于checkpoint,可以,2.3版本开始支持,你去看看flink官网的相关配置,cdc连接器的也有参考如何开启,此回答整理自钉群“Flink CDC 社区”

    2023-11-08 07:41:10
    赞同 1 展开评论 打赏
  • Apache Flink的CDC (Change Data Capture) 目前并不支持直接指定时间点位抽取数据。Flink-CDC默认启动时执行一次全量snapshot,把所有数据读取做为INSERT的change mode。在执行checkpoint时,Flink-CDC会把位点存储到state以支持exacty-once语义,但这主要用于保证数据处理的精确一次性和故障恢复,而不是用于指定时间点位抽取数据。

    如果你想在特定的时间点位抽取数据,你可能需要结合其他的时间过滤工具,或者在应用逻辑中自行实现。例如,你可以使用Flink的时间窗口功能,或者使用Flink的KeyedStream.process()函数,这些方法都可以让你在特定的时间点位处理数据。

    2023-11-07 11:05:53
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载

    相关镜像