开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

分布式场景的状态容错方法是什么?

分布式场景的状态容错方法是什么?

展开
收起
詹姆斯邦德00 2021-11-17 17:19:44 463 0
1 条回答
写回答
取消 提交回答
  • 分布式场景容错需要在不中断运算的前提下对多个拥有本地状态的算子产生全局一致性快照。Flink 分布式场景的作业拓扑比较特殊,它是有向无环并且是弱联通图,可以采用裁剪的 Chandy-Lamport,也就是只记录所有输入的 offset 和各个算子状态,并依赖 rewindable source(可回溯的 source,即可以通过 offset 读取比较早一点时间点),从而不需要存储 channel 的状态,这在存在聚合 (aggregation)逻辑的情况下可以节省大量的存储空间。

    资料来源:《Apache Flink 必知必会》,下载链接:https://developer.aliyun.com/topic/download?id=1189 

    2021-11-17 19:36:14
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关电子书

更多
基于社区的分布式 风险感知模型 立即下载
如何利用Redisson分布式化传统Web项目 立即下载
FLASH:大规模分布式图计算引擎及应用 立即下载