Flink 的分布式快照方法是什么?

Flink 的分布式快照方法是什么?

展开
收起
詹姆斯邦德00 2021-11-17 17:19:44 567 分享 版权
1 条回答
写回答
取消 提交回答
  • 首先在源数据流里插入 Checkpoint barrier,不同的 Checkpoint barrier 会把流自然地切分多个段,每个段都包含了 Checkpoint 的数据;

    其次,Flink 里有一个全局的 Coordinator,它不像 Chandy-Lamport 对任意一个进程都可以发起快照,这个集中式的 Coordinator 会把 Checkpoint barrier 注入到每个source 里,然后启动快照。当每个节点收到 barrier 后,因为 Flink 里面它不存储Channel state,所以它只需存储本地的状态就好。

    最后,在做完了 Checkpoint 后,每个算子的每个并发都会向 Coordinator 发送一个确认消息,当所有任务的确认消息都被 Checkpoint Coordinator 接收,快照就结束了。

    资料来源:《Apache Flink 必知必会》,下载链接:https://developer.aliyun.com/topic/download?id=1189 

    2021-11-17 19:36:15
    赞同 展开评论

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

收录在圈子:
实时计算 Flink 版(Alibaba Cloud Realtime Compute for Apache Flink,Powered by Ververica)是阿里云基于 Apache Flink 构建的企业级、高性能实时大数据处理系统,由 Apache Flink 创始团队官方出品,拥有全球统一商业化品牌,完全兼容开源 Flink API,提供丰富的企业级增值功能。
还有其他疑问?
咨询AI助理