开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC中MongoCDC2.4版本不支持同一database多个collectio同步?

Flink CDC中请问MongoCDC2.4版本不支持同一个database多个collection同步了吗,之前大表都是单库单表同步的,今天有几个小表需要一库多表同步,一直没有数据进入,也不报错?

展开
收起
十一0204 2023-08-09 10:19:16 80 0
1 条回答
写回答
取消 提交回答
  • 北京阿里云ACE会长

    Flink MongoCDC2.4版本从原理上支持同一个Database下监听多个Collection的数据变更。

    可能遇到的问题和解决方法:

    CDC配置项collection.placeholders使用了正则表达式,但正则不匹配对应Collection名称。

    目标kafka/kafka Connect类型不支持多topic,比如单topic模式下无法同步多表。

    小表写入量低,短时间内没有数据变更输出,增加压测数据验证是否正常同步。

    Mongo驱动版本与CDC不兼容,导致多表监控功能失效。尝试升级或降级驱动版本。

    Collection数据格式变更未同步CDC元数据定义,索引字段丢失原因不明。

    网络或防火墙隔离CDC与MongoDB网络。

    Mongo集群故障或 maintenance时临时不服务。

    2023-08-10 17:41:07
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    基于 Flink SQL + Paimon 构建流式湖仓新方 立即下载
    基于 Flink CDC 打造 企业级实时数据集成方案 立即下载
    GTD GLOBAL TERRORISM DATABASE 立即下载