如果用flinkcdc将postgres数据同步到kafka。首次全量同步的时候怎么办程序挂掉重启？
如果用flink cdc将postgres数据同步到kafka。首次全量同步的时候，程序挂掉重启，又会从头读取，导致kafka队列中的数据存在大量的重复。有没有啥好的办法呢？
展开
收起
1
条回答
写回答
写回答
-
意中人就是我呀！一般这种会在sink端进行业务id去重，及时重复也不影响。看sink端数据库支不支持，或者你使用upsert-kafka。此答案整理至钉群“Flink CDC 社区“。
2023-08-16 08:45:06赞同 展开评论 打赏
问答分类：
问答地址：
开发者社区
>
大数据与机器学习
>
实时计算 Flink
>
问答
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？
1446
在建行，数据通常来源于哪些？
534
flink1.20.0 部署后发布报错，是怎么回事，各种配置都配置了
196
大佬，Caused by: java.lang.ClassNotFoundException: or
511
请问flink-connector-jdbc在sink时，如何设置批量写入？
3140
Caused by: org.apache.kafka.common.errors.TimeoutE
3299
Flink 集群重启后，所有的Jobs任务全都没有了。如果快速恢复所有的任务
1250
Slot request bulk is not fulfillable，20以上job同时部署失败
752
Apache Flink未授权访问上传导致的RCE漏洞，这个漏洞目前方案解决吗？
593
Flink CDC 能适配达梦不？
1205
展开全部
Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
16622
Flink Checkpoint 问题排查实用指南
13198
Apache Flink 进阶（八）：详解 Metrics 原理与实战
6262
阿里重磅开源全球首个批流一体机器学习平台Alink，Blink功能已全部贡献至Flink
3774
Lyft 基于 Flink 的大规模准实时数据分析平台（附FFA大会视频）
2807
美团点评基于 Flink 的实时数仓平台实践
5047
Iceberg 在基于 Flink 的流式数据入库场景中的应用
3755
Flink 作为现代数据仓库的统一引擎：Hive 集成生产就绪！
1820
Flink Weekly | 每周社区动态更新 - 20200313
1623
周末直播|Flink、Hologres、AI等热门话题全都安排！
4812
展开全部
