AI 助理
备案控制台
开发者社区 问答 正文

sink失败 不消费kafka消息怎么办？

大家好，我现在有个疑问

目前我使用kafka作为source，经过计算以后，将结果sink到数据库；

后来日志数据库发生了timeout或者宕机，kafka这边的主题，却消费掉了造成了数据丢失，那么如何设置才可以确认在sink失败的时候，不提交kafka的消费位移呢？

多谢大家了 *来自志愿者整理的flink邮件归档

展开
收起
游客sadna6pkvqnz6 2021-12-07 16:56:12 797 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 毛毛虫雨

    这种情况需要打开checkpoint来保证数据的不丢。如果sink没有两阶段提交，那就是at least once语义。*来自志愿者整理的flink

    2021-12-07 20:21:57
    赞同 展开评论
问答分类：
消息中间件 Kafka 数据库 流计算 云消息队列 Kafka 版 实时计算 Flink版 日志服务
问答标签：
sink云消息队列 Kafka 版 云消息队列 Kafka 版sink 云消息队列 Kafka 版消息 云消息队列 Kafka 版消费
问答地址：
开发者社区 > 微服务 > 问答
相关问答
flink cdc sql将一个source，sink到pg和kafka，这种场景支持吗?
144
0
0
在使用 Flink CDC 进行数据流处理时，这个 Kafka sink 是在哪里实现的？
203
2
0
B站Kafka动态sink功能如何保证数据一致性？
76
1
0
B站Kafka动态sink功能的实现原理是什么？
67
1
0
B站为什么需要开发Kafka动态sink功能？
65
1
0
B站是如何解决Kafka动态sink问题的？
64
1
0
Flink的作业为啥kafka的消息没有sink到ADB？
91
1
0
mongo source cdc + kafka sink connector这个组合支持吗？
65
0
0
Flink CDC里遇到过SInk到Kafka的这个报错么？
102
0
0
Flink CDC里sink到kafka出现的报错怎么办？
88
0
0