开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

为什么多个作业共用同一张 source table 时没有修改 server id 会导致读取出来?

已解决

为什么多个作业共用同一张 source table 时,没有修改 server id 会导致读取出来的数据有丢失?

展开
收起
游客cum3jectrqmmy 2022-01-19 16:43:52 2457 0
1 条回答
写回答
取消 提交回答
  • 推荐回答

    原因:MySQL binlog 数据同步的原理是,CDC source 会伪装成 MySQL 集群的一个 slave(使 用指定的 server id 作为唯一 id),然后从 MySQL 拉取 binlog 数据。如果一个 MySQL 集 群中有多个 slave 有同样的 id,就会导致拉取数据错乱的问题。

    资料来源:《Flink CDC:新一代数据集成框架》,下载链接:https://developer.aliyun.com/topic/download?id=8256。

    2022-01-19 20:13:16
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

热门讨论

热门文章

相关电子书

更多
MongoShake -- Multi Active-Active and Cross-Region Disaster Recoverable MongoDB Service 立即下载
对 2000 多亿条数据做一次 group by 需要多久? 立即下载
对2000多亿条数据做一次Group By 需要多久 立即下载