开发者社区> 问答> 正文

Apache Flink 的完整性推理方案是如何设计的?

Apache Flink 的完整性推理方案是如何设计的?

展开
收起
真的很搞笑 2024-06-17 20:20:10 15 0
1 条回答
写回答
取消 提交回答
  • Apache Flink 的完整性推理方案设计思路源于 DataFlow 模型,核心围绕低水印设计。生产阶段,Flink 程序可以在源节点或专用水印生成节点中生成水印,基于进入引擎的流数据或其他数据源信息(如 Kafka 分区、偏移量或时间戳等)来计算水印。传播阶段,水印作为特殊元数据消息与常规流数据一起发送给下游节点,下游节点取所有输入水印的最小值作为当前节点的水印,并更新转发大于前一个水印的新水印以保持完整性信号的严格单调性。消费阶段,当水印抵达节点时,会触发一系列定时器,结果发送到下游,新的水印值广播到所有下游节点,实现分布式应用的状态同步。image.png

    2024-06-17 20:42:28
    赞同 2 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Apache Flink技术进阶 立即下载
Apache Spark: Cloud and On-Prem 立即下载
Hybrid Cloud and Apache Spark 立即下载

相关镜像