开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

使用Flink CDC 同步MySQl。配置了多张表, 有一张A表删除了字段,然后停止同步后怎么做?

使用Flink CDC 同步MySQl。配置了多张表, 有一张A表删除了字段,然后停止同步,将A表移除同步队列,过了一段时间之后将A表加回去,但是读取Schema的时候还是可以读取到已经删除的字段,导致报错和实际字段数量不一致,这种情况要怎么处理?消费点位是和单张表绑定的么?我是同步多张表,按理说消费点位已经到最新了我移除了这个表,然后flink任务继续跑,从没有这个表的savepoint启动,这个时候应该是当成新表来做快照和增量同步吧?

展开
收起
小小鹿鹿鹿 2024-04-15 20:42:37 25 0
1 条回答
写回答
取消 提交回答
  • 重置一下消费位点 在更改表结构之后 .消费位点的确定 和你当前客户端服务绑定的这个库数据库白名单表列表有关哦 列表就一个表就相当于和单表绑定 不应该是移除这个表 而是跳过这个位点之后 找到有效position
    show binlog events in 日志文件 查找
    最终兜底方案 datax 工具同步最新数据 后 StartupOptions.latest() 按照当前时间立即执行 .此回答来自钉群Flink CDC 社区。

    2024-04-15 22:00:46
    赞同 2 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关电子书

更多
搭建电商项目架构连接MySQL 立即下载
搭建4层电商项目架构,实战连接MySQL 立即下载
PolarDB MySQL引擎重磅功能及产品能力盛大发布 立即下载

相关镜像