开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

flink 每次重启之后是从上次读去的snapshot开始读还是从最新的开始读啊?

hello 想问下flink stream read iceberg 每次重启之后是从上次读去的snapshot开始读还是从最新的开始读啊

展开
收起
真的很搞笑 2023-08-28 14:31:07 64 0
1 条回答
写回答
取消 提交回答
  • Flink 在每次重启之后,会从上次读取的位置继续读取数据。

    Flink 有一个内部的 checkpoint 机制,它会定期将当前的运行状态保存到外部存储系统中。当 Flink 重启之后,它会从上一次保存的 checkpoint 开始恢复运行。这样,Flink 就可以保证在重启之后不会丢失数据。

    Flink 的 checkpoint 机制可以配置不同的间隔时间。如果 checkpoint 间隔时间比较短,那么 Flink 重启之后丢失的数据就比较少。但是,checkpoint 也会增加 Flink 的运行开销。因此,需要根据业务场景来选择合适的 checkpoint 间隔时间。

    2023-09-13 14:39:51
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载