开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Flink CDC用mongodb cdc的时候报错 这个是要对mongodb有要求嘛?

Flink CDC用mongodb cdc的时候报错 com.mongodb.MongoCommandException: Command failed with error 40573 (Location40573): 'The $changeStream stage is only supported on replica sets' on server 这个是要对mongodb有要求嘛?

展开
收起
真的很搞笑 2023-12-19 08:07:25 90 0
2 条回答
写回答
取消 提交回答
  • datax拉数据是有锁的,而且阿里的dataworks以前都是datax,现在开始准备用flink-cdc了,必须是副本集的集群 ,此回答整理自钉群“Flink CDC 社区”

    2023-12-19 16:20:12
    赞同 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    这个错误是因为Flink CDC在MongoDB的副本集(replica set)上使用了$changeStream操作,而该操作仅支持副本集。如果你的MongoDB是单个实例(standalone),则不支持$changeStream操作。

    要解决这个问题,你可以考虑以下两种方法:

    1. 将MongoDB升级为副本集:你可以将你的MongoDB部署为副本集,这样Flink CDC就可以使用$changeStream操作了。请参考MongoDB官方文档了解如何设置和配置副本集。

    2. 使用其他方式捕获变更事件:如果升级MongoDB为副本集不可行,你可以尝试使用其他方式来捕获变更事件。例如,你可以使用MongoDB的Oplog来捕获变更事件,并将数据导出到消息队列或文件系统,然后使用Flink CDC从这些导出的数据源中读取并处理数据。

    2023-12-19 15:03:01
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    Flink CDC Meetup PPT - 覃立辉 立即下载