Flink CDC有没有人知道这是啥情况吗？
Flink CDC有没有人知道这是啥情况，我是从mysql的指定binlog读取数据向本地文件里写，但是这都已经对我指定的binlog文件做完检查点了，还没向里面写，开始对下一个binlog做检查点了？这种的可以让他只读这一个binlog，完事就开始写吗？
展开
收起
2
条回答
写回答
写回答
-
在Flink CDC中，如果你想要从指定的MySQL binlog文件读取数据并写入本地文件，但发现任务已经对指定的binlog文件做完检查点并开始处理下一个binlog文件，你可以尝试以下方法：
- 确保你的Flink CDC任务配置正确地指定了起始的binlog文件和位置。你可以在Flink CDC连接器的配置中设置 startingPosition 参数为指定的binlog文件和位置。
- 考虑使用 snapshot 模式启动 Flink CDC 任务，以便在初始阶段获取完整的数据快照并确保数据一致性。然后你可以停止任务，并修改配置以只处理指定的binlog文件。
- 如果你已经开始了任务并且无法停止或重新配置，你可以在Flink CDC任务的日志中查找与指定binlog文件相关的事件和处理信息，以确定是否已经正确地读取和处理了该binlog文件。
2023-12-20 16:51:46赞同 展开评论 打赏 -
你检查点时间调久一点，有没有可能这部分binlog没有你要同步的表的数据，应该就是我说的这个情况，你要的表的数据变更日志可能不在这个binglog文件里，尽量找一个往前点的binglog，那可能就是这个binlog文件里面确实没有这张表的日志 ，此回答整理自钉群“Flink CDC 社区”
2023-12-20 09:57:15赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。
热门讨论
热门文章
Flink CDC有遇见这个问题的吗？
720
Flink CDC中我使用了自定义聚合函数，但是报错这个需要怎么解决呢？
578
FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？
2109
flink1.15启动后无法访问webui的问题有人遇到过吗
10078
不同版本的 flink 如何适配不同版本 kafka，flink-connect-kafka 版本
225
Flink sql将数组炸开，实现hive的explode函数的效果，还有什么其他好的方式？
604
Caused by: org.apache.kafka.common.errors.TimeoutE
2466
flink sql 批模式需要咋配置啊？
893
使用Flink CDC，生产环境要申请的服务器如何评估
949
flinkcdc启动，怎么修改默认端口号，默认是8081。
851
展开全部
Flink 流批一体场景应用及落地情况
67245
湖仓一体全面开启实时化时代
50496
携程实时智能检测平台建设实践
5718
Apache Flink 1.10.0 重磅发布，年度最大规模版本升级！
2296
日均万亿条数据如何处理？爱奇艺实时计算平台这样做
2849
Apache Flink 进阶（十二）：深度探索 Flink SQL
2515
Flink State 最佳实践
2411
Apache Paimon统一大数据湖存储底座
627
实时计算 Flink版操作报错合集之在配置连接时，添加了scan.startup.mode参数后，出现报错。是什么导致的
606
实时计算 Flink版操作报错合集之从 PostgreSQL 读取数据并写入 Kafka 时，遇到 "initial slot snapshot too large" 的错误，该怎么办
560
展开全部
相关文章
相关电子书
更多
