Flink CDC为什么我第一次初始化执行了以后，正常来说mysql就4亿条左右数据，会重复执行吗？
Flink CDC为什么我第一次初始化执行了以后，正常来说mysql就4亿条左右数据，现在执行了5亿多条还没有执行完，是会重复执行吗？ 怎么看执行到哪张表了或者哪些已经同步完了呀？
展开
收起
1
条回答
写回答
写回答
-
Flink CDC 是基于增量数据同步的，所以不会重复执行。Flink CDC 会从 MySQL 的 Binlog 中读取数据，并且只处理新增的数据。如果 MySQL 中的数据没有发生变化，那么 Flink CDC 就不会从 Binlog 中读取任何数据。
另外，Flink CDC 还支持 checkpoint 功能。checkpoint 会记录 Flink CDC 的状态，这样 Flink CDC 在重启后就可以从 checkpoint 中恢复状态，继续从 Binlog 中读取数据。
因此，Flink CDC 是不会重复执行的。如果执行了两次 Flink CDC，那么第二次执行只会处理新增的数据，而不是重复执行第一次执行的数据。
2023-09-13 11:53:07赞同 展开评论 打赏
问答地址：
开发者社区
>
大数据与机器学习
>
实时计算 Flink
>
问答
相关产品：
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
FFA 2024 大会门票免费送！AI时代下大数据技术未来路在何方？
1518
flink1.20.0 部署后发布报错，是怎么回事，各种配置都配置了
213
在建行，数据通常来源于哪些？
538
大佬，Caused by: java.lang.ClassNotFoundException: or
514
请问flink-connector-jdbc在sink时，如何设置批量写入？
3154
Caused by: org.apache.kafka.common.errors.TimeoutE
3310
Flink 集群重启后，所有的Jobs任务全都没有了。如果快速恢复所有的任务
1256
Slot request bulk is not fulfillable，20以上job同时部署失败
756
Apache Flink未授权访问上传导致的RCE漏洞，这个漏洞目前方案解决吗？
598
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
3573
展开全部
权威详解 | 阿里新一代实时计算引擎 Blink，每秒支持数十亿次计算
24462
Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化
27944
流计算StreamCompute
18671
Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示
23383
阿里云实时计算产品案例&解决方案汇总
27870
流计算精品翻译: The Dataflow Model
19280
Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现
16625
Apache Flink 的迁移之路，2 年处理效果提升 5 倍
9745
基于实时计算（Flink）打造一个简单的实时推荐系统
14403
Flink Checkpoint 问题排查实用指南
13202
展开全部
相关文章
相关电子书
更多
