开发者社区> 问答> 正文

Flink读取CDC全量数据同步没有异常但是无法同步增量数据

已解决

Flink读取CDC全量数据同步没有异常但是无法同步增量数据

展开
收起
阿里云服务支持 2022-12-16 10:15:38 675 0
1 条回答
写回答
取消 提交回答
  • 官方回答

    1.MySQL CDC在做全量读到增量读的切换时,如果全量读是多并发,则在进入增量前要多等一个Checkpoint,来确保全量的数据已经写入到下游后再读取增量数据,从而保证数据的正确性。但是,如果设置的Checkpoint间隔时间比较大,例如20分钟,则会导致作业20分钟后才开始同步增量数据。因此,需要根据业务情况设置合理的Checkpoint间隔时间。

    2.如果使用的是RDS MySQL 5.6只读实例,该类型实例提供的binlog文件是经过简化的,日志中不包含数据,是无法读取到增量阶段的数据的。因此,这种情况建议使用可写实例或者升级RDS MySQL至更高版本。

    2022-12-16 10:21:11
    赞同 展开评论 打赏
来源圈子
更多
收录在圈子:
作为全球云计算的领先者,阿里云为全球230万企业提供着云计算服务,服务范围覆盖200多个国家和地区。我们致力于为企业、政府等组织机构提供安全可靠的云计算服务,给用户带来极速愉悦的服务体验。
问答排行榜
最热
最新

相关电子书

更多
Flink峰会 - 李佳林 立即下载
Flink峰会 - 徐榜江 立即下载
MaxCompute技术公开课第四季 之 如何将Kafka数据同步至MaxCompute 立即下载