开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC要是这么短时间的ck,那这ck的文件我要是还要保留,会不会导致ck失败啊?

Flink CDC要是这么短时间的ck,那这ck的文件我要是还要保留(程序突然故障导致任务失败检查点恢复任务),会不会导致ck失败啊?

展开
收起
真的很搞笑 2023-12-10 20:44:20 70 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Flink CDC的Checkpoint机制是一种用于在运行过程中保存应用程序状态的容错机制。当发生故障时,可以通过使用最新的Checkpoint信息来重新启动应用程序,并从上次保存的位置继续处理数据。

    关于你的问题,如果checkpoint的间隔时间短,那么在程序突然故障导致任务失败时,确实可能会因为最近的checkpoint文件丢失而导致恢复失败。但是,Flink提供了不同的checkpoint触发机制,包括基于时间间隔和数据量的触发方式,可以根据应用程序的实际需求进行选择。

    另外,需要注意的是,Flink Checkpoint的状态保留策略有两种:DELETE_ON_CANCELLATION表示当程序取消时,删除Checkpoint。所以,如果你的程序有可能会意外取消,那么这种策略可能不适合你。在这种情况下,你可能需要采取其他措施来确保checkpoint文件的安全保存。

    2023-12-11 16:42:48
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载