Flink Checkpoint 执行流程是怎样的

Flink Checkpoint 执行流程是怎样的,求详解

展开
收起
一人吃饱,全家不饿 2021-01-05 23:15:30 1230 分享 版权
1 条回答
写回答
取消 提交回答
    1. Checkpoint Coordinator 所有 source 节点触发 Checkpoint;
    2. source 节点向下游广播 barrier,这个 barrier 就是实现 ChandyLamport 分布式快照算法的核心,下游的 task 只有收到所有 input 的 barrier 才会执行相应的 Checkpoint;
    3. 当 task 完成 state 备份后,会将备份数据的地址(state handle) 通知给 Checkpoint coordinator;
    4. 下游的 sink 节点收集齐上游 input 的 barrier 之后,会执行本地快照;
    5. sink 节点在完成自己的 Checkpoint 之后,会将 state handle 返回通知 Coordinator;
    6. 当 Checkpoint coordinator 收集齐所有 task 的 state handle,就认为这一次的 Checkpoint 全局完成了,向持久化存储中再备份一个 Checkpoint meta 文件
    2021-01-05 23:15:45
    赞同 展开评论

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

收录在圈子:
实时计算 Flink 版(Alibaba Cloud Realtime Compute for Apache Flink,Powered by Ververica)是阿里云基于 Apache Flink 构建的企业级、高性能实时大数据处理系统,由 Apache Flink 创始团队官方出品,拥有全球统一商业化品牌,完全兼容开源 Flink API,提供丰富的企业级增值功能。
还有其他疑问?
咨询AI助理