开发者社区 问答 正文

你们是如何解决Hudi与Flink的checkpoint一致性问题的?

你们是如何解决Hudi与Flink的checkpoint一致性问题的?

展开
收起
迪哒迪滴喵 2024-08-13 19:08:37 65 发布于天津 分享
分享
版权
举报
1 条回答
写回答
取消 提交回答
  • 为了解决Hudi与Flink的checkpoint一致性问题,我们对任务进行了重构。Writer算子在checkpoint时,会将汇报给writer coordinator的信息进行state持久化。任务重启后,这些信息会重新汇报给writer coordinator算子。writer coordinator算子收集所有writer算子的信息,并进行一次commit判断,确保对应的commit已经完成。同时,Writer算子会保持阻塞状态,直到上次持久化的commit完成image.png
    后,才会处理最新的数据。这样,我们就对齐了Hudi与Flink的checkpoint机制,保证了边界场景数据的一致性。

    2024-08-13 21:50:55 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等