开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC如果使用增量快照的话,是不是需要配置一下或者依赖哪个包呢?

Flink CDC如果使用增量快照的话,是不是需要配置一下或者依赖哪个包呢?checkpointConfig.setSnapshotType(SnapshotType.INCREMENTAL) 这种配置方式无法实现

展开
收起
真的很搞笑 2023-11-06 19:58:23 45 0
1 条回答
写回答
取消 提交回答
  • Flink CDC的增量快照功能确实需要特别配置。从Flink CDC 2.0版本开始,它引入了增量快照算法,该算法能够将checkpoint粒度降低至chunk,且chunk大小是用户可配置的。在Flink CDC 2.3版本中,不仅MongoDB CDC连接器,还有Oracle CDC连接器都对接到了Flink CDC的增量快照框架上,从而实现了增量快照算法,提供了无锁读取、并行读取和断点续传的功能。

    具体来说,在使用DataStream API时,要启用增量快照功能,需要在构造数据源时使用特定的包。例如,如果要使用MongoDB的CDC功能,需要使用com.ververica.cdc.connectors.mongodb.source包中的MongoDBSource#builder();如果要使用PostgreSQL或MySQL的CDC功能,则需要使用相应的包。

    因此,如果你正在使用Flink CDC并且想实现增量快照,你需要确保你使用了正确的包,并按照对应的API进行配置。同时,也需要确保你的Flink版本支持增量快照功能。

    2023-11-07 11:30:56
    赞同 1 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载