如果 checkpoint offset 未提交到 kafka，此时节点宕机了，重启重复消费如何保证
如果 checkpoint 时间过长，offset 未提交到 kafka，此时节点宕机了，重启之后的重复消费如何保证呢？
展开
收起
1
条回答
写回答
写回答
-
开启 checkpoint 时 offset 是 Flink 通过状态 state 管理和恢复的，并不是从 kafka 的 offset 位置恢复。在 checkpoint 机制下，作业从最近一次 checkpoint 恢复，本身是会回放部分历史数据，导致部分数据重复消费，Flink 引擎仅保证计算状态的精准一次，要想做到端到端精准一次需要依赖一些幂等的存储系统或者事务操作。
2021-01-06 12:52:03赞同 展开评论 打赏
问答分类：
问答地址：
开发者社区
>
大数据与机器学习
>
实时计算 Flink
>
问答
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？
779
大佬，Caused by: java.lang.ClassNotFoundException: or
421
Slot request bulk is not fulfillable，20以上job同时部署失败
680
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3495
Caused by: org.apache.kafka.common.errors.TimeoutE
3206
Flink如何配置Task Manager？
590
使用flink on yarn的模式，怎么进行内存资源调优呢，如何配置flink内存
673
请问如何用flink sql客户端用yarn application模式提交任务呢？
1483
各位老师，请教个问题，flink 会在本地 /tmp 目录下产生大量flink-临时文件，目前看好？
1791
不同版本的 flink 如何适配不同版本 kafka，flink-connect-kafka 版本
928
展开全部
权威详解 | 阿里新一代实时计算引擎 Blink，每秒支持数十亿次计算
24434
OPPO数据中台之基石：基于Flink SQL构建实数据仓库
21907
实时计算 Flink SQL 核心功能解密
19303
Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化
27912
流计算StreamCompute
18661
阿里云实时计算产品案例&解决方案汇总
27827
Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
16612
基于实时计算（Flink）打造一个简单的实时推荐系统
14381
Flink SQL 功能解密系列 —— 流计算“撤回(Retraction)”案例分析
18439
如何在 PyFlink 1.10 中自定义 Python UDF？
8994
展开全部
相关课程
更多
相关文章
相关电子书
更多
